专栏名称: DeepTech深科技
“DeepTech深科技”是与麻省理工科技评论官方独家合作的一个新科技内容品牌。我们专注于关注三个方面:1、基于科学的发现;2、真正的科技创新;3、深科技应用的创新。
今天看啥  ›  专栏  ›  DeepTech深科技

小模型的数学能力更强?微软亚研团队新方法挑战“参数越大模型越好”传统观点

DeepTech深科技  · 公众号  · 科技媒体  · 2025-01-10 20:12
    

主要观点总结

本文介绍了微软亚洲研究院团队提出的一种新方法rStar-Math,它能提升小语言模型的数学推理能力。该方法通过参数在1.5B-7B之间的小语言模型和涵盖七个数学推理任务的实验,证明了rStar-Math的有效性。在测试中,rStar-Math将小语言模型的数学推理准确率显著提高,甚至超过OpenAI o1。文章还提到了rStar-Math的创新点和应用前景。

关键观点总结

关键观点1: rStar-Math方法介绍

微软亚洲研究院团队提出了一种新的方法rStar-Math,用于提升小语言模型的数学推理能力,挑战了“参数越大模型越好”的常规观点。

关键观点2: rStar-Math的实验和测试

在测试中,rStar-Math显著提高了小语言模型的数学推理准确率,并且能够在美国数学邀请赛(AIME)中解决较高比例的问题。

关键观点3: rStar-Math的创新点

rStar-Math使用蒙特卡洛树搜索进行“深度思考”,实现数学推理。它采用新的代码增强思维链(CoT)数据合成方法,并使用小语言模型作为过程偏好模型。此外,rStar-Math还使用了一个四轮自我进化方案来逐步构建策略模型和过程偏好模型。

关键观点4: rStar-Math的应用前景

rStar-Math可应用于更具挑战性的数学任务,如定理证明和代码推理。它还有潜力解答竞赛级别的数学题,并且代码和数据将被公开在GitHub上。


文章预览

小语言模型,是《麻省理工科技评论》评选出的 2025 年“十大突破性技术”之一。人们往往认为大语言模型更擅长做数学题,事实上小语言模型也能做数学题甚至做得更好。 (来源:《麻省理工科技评论》) 1 月 8 日,由 微软 亚洲研究院团队领衔的一篇论文在 arXiv 上线。论文中,该团队提出一种新方法并将其命名为 rStar-Math,它能提升小语言模型的数学推理能力,挑战了“ 参数越大模型越好 ”的常规观点,为 GPU 资源和财力有限的机构打开了 AI 研发新思路,或能让更多业内人士“花小钱办大事”。 研究中, 论文作者团队通过参数在 1.5B-7B 之间的四个小语言模型以及涵盖七个数学推理任务的实验,证明了 rStar-Math 的有效性。 在 rStar-Math 的帮助之下,在无需从高级模型中提炼能力的前提下,让小语言模型的数学推理能力得以媲美甚至超越 OpenAI ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览