浅看OpenAI O1的六种推理模式：兼读多模态RAG增强思路CUE-M

文章预览

今天是2024年11月21日，星期四，北京，天气晴。 今天，我们里详细讲讲OpenAI-O1的推理模式以及多模态RAG的一个混合增强思路，可以看起组合策略以及对应的安全策略。 我们可以从中找到一些思路。 一、先看关于OpenAI O1的推理模式分析 先说一个有趣的事儿， 预测阶段思考长度的scaling law 最近越来越成为大家所关注的对象，https://mp.weixin.qq.com/s/e1YnTxZlzFvjcmrLLTA8fw，模型在数学竞赛上的得分与测试所允许思考的长度紧密相关。红色实线展示了模型所能达到的准确率与所给定的推理长度呈正相关。相比传统的多次采样+投票(MajorityVoting)，模型思维链长度增加展现出了更高的效率。 带着这个结论，我们来看看其始祖， OpenAI's o1的具体实现机制，主要发现来自于《A Comparative Study on Reasoning Patterns of OpenAI's o1 Model》（https://arxiv.org/abs/2410.13639）这个工作不错，可 ………………………………