大模型不会推理，为什么也能有思路？有人把原理搞明白了

文章预览

MLNLP 社区是国内外知名的机器学习与自然语言处理社区，受众覆盖国内外NLP硕博生、高校老师以及企业研究人员。 社区的愿景 是促进国内外自然语言处理，机器学习学术界、产业界和广大爱好者之间的交流和进步，特别是初学者同学们的进步。 转载自 | 机器之心 编辑 | 泽南、杜伟 大模型不会照搬训练数据中的数学推理，回答事实问题和推理问题的「思路」也不一样。 大语言模型的「推理」能力应该不是推理，在今年 6 月， 一篇 Nature 论文 《Language is primarily a tool for communication rather than thought》曾引发 AI 社区的大讨论，改变了我们对于 AI 智力的看法。 该论文认为人类语言主要是用于交流的工具，而不是思考的工具，对于任何经过测试的思维形式都不是必需的。图灵奖获得者 Yann LeCun 对此还表示，无论架构细节如何，使用固定数量的计算步骤来计 ………………………………