速递丨成本仅50美元！李飞飞团队复刻媲美DeepSeek R1的AI推理模型

主要观点总结

本文报道了李飞飞等AI研究人员以不到50美元的成本成功训练了一个名为s1的AI推理模型，该模型表现与前沿推理模型如OpenAI的o1和DeepSeek的R1相似。文章介绍了模型的训练方法，包括蒸馏过程、数据集和代码的公开。同时讨论了AI模型商品化的问题，引发了关于AI领域创新的思考。文章还提到了大型AI实验室对此的反应以及s1模型的特点和优势。

关键观点总结

关键观点1: AI推理模型s1的成功训练

研究人员以不到50美元的成本训练了一个名为s1的AI推理模型，其表现与前沿模型相当。

关键观点2: 模型的训练方法和特点

s1模型通过蒸馏方法从Google的Gemini 2.0 Flash Thinking Experimental模型获得，使用了监督微调（SFT）过程。研究人员创建了一个包含精心挑选问题的数据集进行训练。

关键观点3: AI模型商品化的问题

文章引发了关于AI模型商品化的讨论，指出了大型AI实验室对此的反应以及AI模型的“护城河”问题。

关键观点4: s1模型的优势和应用

s1模型在测试时展现出强大的推理性能和“测试时扩展”能力。研究人员使用巧妙技巧让s1检查自己的工作并延长“思考”时间，以提高答案的准确性。

关键观点5: AI领域的投资和未来展望

Meta、Google和Microsoft计划在AI基础设施上投资数千亿美元，推动AI创新。蒸馏方法虽然有效，但不能创造出远超现有模型的新AI。

文章预览

根据Tech Crunch报道， 李飞飞等斯坦福大学和华盛顿大学的AI研究人员的一篇新研究论 文表示，他们成功地用不到50美元的费用训练了一个AI推理模型。 这个名为s1的模型，在测量数学和编码能力的测试中，表现与最前沿的推理模型（如OpenAI的o1和DeepSeek的R1）相似。 s1模型已经在GitHub上发布，并附带了训练它所用的数据和代码。 s1背后的团队表示，他们从一个现成的基础模型开始，然后通过蒸馏（distillation）对其进行微调，这是一个从另一个AI模型中提取“推理”能力的过程，通过训练其答案来实现。 研究人员表示，s1是通过蒸馏Google的推理模型——Gemini 2.0 Flash Thinking Experimental模型获得的。蒸馏方法与伯克利研究人员上个月以约450美元创建AI推理模型的方式相同。 对于一些人来说，几位没有数百万美元资金支持的研究人员仍能在AI领域进行创新的想法 ………………………………