OpenAI o1 技术初探2：使用MCTS增强推理能力（基于代码实践的解读）

文章预览

↑ 点击 蓝字  关注极市平台 作者丨猛猿 来源丨大猿搬砖简记 编辑丨极市平台 极市导读   本文深入探讨了如何使用蒙特卡洛树搜索（MCTS）增强大型语言模型（LLM）的推理能力，通过微软开源的rStar项目为例，详细解释了MCTS在自然语言处理任务中的应用，包括如何构造搜索树、执行rollout以扩展树结构、计算节点的UCT值以及如何搜索最佳推理路径。  >> 加入极市CV技术交流群，走在计算机视觉的最前沿 在o1的整体框架篇中（https://zhuanlan.zhihu.com/p/773907223），我们从现有开源的论文和代码中（https://github.com/hijkzzz/Awesome-LLM-Strawberry），抽象出了o1可能的技术实现路径，如下图： 这里对于这张框架图我们不再做赘述，详情可以参见上面《框架篇》的文章链接。 我们之前说过， 这是一张高度抽象的框架图 ，旨在说明o1官方技术报告中提到的“把更多算力花 ………………………………