专栏名称: 新智元
智能+中国主平台,致力于推动中国从互联网+迈向智能+新纪元。重点关注人工智能、机器人等前沿领域发展,关注人机融合、人工智能和机器人革命对人类社会与文明进化的影响,领航中国新智能时代。
今天看啥  ›  专栏  ›  新智元

Kimi硬刚多模态满血版o1,首曝训练细节!强化学习scaling新范式诞生

新智元  · 公众号  · AI  · 2025-01-20 23:06
    

主要观点总结

新智元报道,Kimi发布了k1.5多模态思考模型,这是继去年发布数学和视觉思考模型后的强化学习模型重磅升级。Kimi k1.5的性能已全面追上全球最强模型OpenAI o1满血版,并在数学、代码、多模态推理能力上达到长思考SOTA模型水平。该模型的技术创新包括长上下文扩展、简化框架、多模态等。同时,Kimi团队还公开了训练技术细节,并详细解释了long2short思维链等关键技术。Kimi k1.5的设计遵循了从长到短的思考逻辑,通过合并长CoT模型和短CoT模型、应用最短筛选采样等方法,实现了高效的模型合并和响应。此外,该模型还具备强大的泛化能力和Token使用效率,通过部分回滚技术解决了长CoT特性资源分配和效率挑战。该模型的发布标志着多模态AI能力的显著进步,并且Kimi将继续迭代出更多模态、更多领域、具备更强通用能力的Kn系列模型。

关键观点总结

关键观点1: Kimi发布k1.5多模态思考模型

Kimi发布了新的强化学习模型k1.5,这是继去年发布数学和视觉思考模型后的升级,全面追上了全球最强模型OpenAI o1满血版的性能。

关键观点2: 模型技术创新

Kimi k1.5的技术创新包括长上下文扩展、简化框架、多模态等,展示了其在人工智能领域的领先技术。

关键观点3: 公开训练技术细节

Kimi团队公开了训练技术细节,包括long2short思维链等关键技术的详细解释,为研究人员提供了有价值的参考。

关键观点4: 从长到短的思考逻辑

Kimi k1.5的设计遵循了从长到短的思考逻辑,通过合并长CoT模型和短CoT模型、应用最短筛选采样等方法,实现了高效的模型合并和响应。

关键观点5: 强大的泛化能力和Token使用效率

Kimi k1.5具备强大的泛化能力和Token使用效率,通过部分回滚技术解决了长CoT特性资源分配和效率挑战,为实际应用的广泛性提供了保障。


文章预览

   新智元报道   编辑:编辑部 HYZ 【新智元导读】 来了来了,月之暗面首个「满血版o1」来了!这是除OpenAI之外,首次有多模态模型在数学和代码能力上达到了满血版o1的水平。 还记得吗,AI大神Karpathy曾说过,「英文是最热门的编程语言」。 两年后的现在,这个规则彻底要被颠覆了。 从今天起,中文很有可能成为全球最热门的编程语言! 就在刚刚,Kimi发布了k1.5 多模态思考模型。这是继去年 11 月他们发布 k0-math 数学模型,12月发布 k1 视觉思考模型之后,连续第三个月带来 k 系列强化学习模型的重磅升级。 Kimi k1.5的性能,如今已经全面追上现役全球最强模型——OpenAI o1满血版。 具体来说,在Long CoT模式下,Kimi k1.5的数学、代码、多模态推理能力,达到了长思考SOTA模型OpenAI o1满血版的水平。这也是全球范围内,首次有OpenAI之外的公司达到。 而 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览