Transformer推理新纪元？DeepMind与LeCun的CoT之争！

文章预览

随着OpenAI的ChatGPT（简称o1）在 LLM（大型语言模型）领域 的爆火， CoT（Chain of Thought，思维链）技术 迅速成为AI圈内热议的焦点。 这项技术不仅让LLM首次实现了通用复杂推理能力，还引发了关于AI未来发展方向的深刻讨论。 近日，谷歌 DeepMind首席科学家Denny Zhou 在ICLR 2024上发表的一篇论文更是将这一讨论推向了高潮，他声称 CoT技术可以让Transformer的推理能力无极限 。 然而，这一观点随即遭到了包括田渊栋和LeCun在内的多位AI领域大佬的质疑。 本文将详细解析这场争论，并探讨CoT技术的未来前景。   CoT技术： LLM推理的新范式 CoT技术，即思维链技术，是OpenAI在ChatGPT中引入的一项关键技术。通过引导LLM在解答问题时逐步展示推理过程，CoT显著提升了LLM的复杂推理能力。 这种 “慢思考”模式 不仅帮助LLM在数学和符号推理上取得了突破，还意外地让L ………………………………