主要观点总结
本文介绍了OpenAI发布的o1系列和强化微调技术RFT，以及关于o1模型复现的探讨。文章提到了不同的复现方法，包括使用蒸馏数据的方法，并指出简单蒸馏的潜在问题，包括性能上限、技术创新缺失和人才培养文化的负面转变等。同时，文章呼吁AI研究者重视基础技术创新和第一性原理的探究。
关键观点总结
关键观点1: OpenAI发布o1系列和强化微调技术RFT
o1系列包括完全体o1和强化微调技术RFT。完全体o1更智能、更快、多模态输入等；RFT技术用少量数据可微调出专家模型。
关键观点2: 关于o1模型复现的探讨
主要探讨了用不同方法复现o1模型的效果和代价，包括复杂技巧和简单蒸馏数据的对比。
关键观点3: 简单蒸馏的潜在问题
简单蒸馏虽然能带来一时成效，但过度依赖可能导致性能上限、技术创新缺失和人才培养文化的负面转变等问题。
关键观点4: 技术透明度指数（TTI）的提出
为了评估和比较各种复现尝试，作者提出了技术透明度指数（TTI），从数据透明度、方法透明度、评估透明度和资源开源四个方面进行评估。
关键观点5: 呼吁重视基础技术创新和第一性原理的探究
研究者应该在简单蒸馏和本质性创新之间找到平衡点，重视基础技术创新和对第一性原理的探究。
文章预览
“世间的捷径，皆有代价” 大家好，我是含萧。 近日，在 OpenAI 计划长达十二天的" Shipmas "的前两天发布中，满血版 o1 系列以及强化微调技术 RFT( Reinforcement Fine-Tuning )面世。 其中，完全体 o1 更智能、更快、多模态输入、更擅长指令遵循、编码效能提升、错误率降低约 34%、思考速度提升约 50%。 而 RFT 技术则声称，仅用少量数据（官方说法：_dozens to thousands of high quality tasks_，数十到数千个高质量数据）就可以帮助用户微调出某一领域的专家模型，视频 demo 中仅用 1100 个数据就让 o1-mini 在对应领域的表现超越了 o1，让许多人都对这项新技术振奋不已，也猜测这就是实现 o1 的重要技术之一。 这也引发了我的好奇，o1 的背后究竟藏着什么独门秘技？ “xx 年高考压轴题居然被它解出来了” “我没写出来的 hard 题它给出了完美解” ... o1 强大的数学和代码
………………………………
