苹果一篇论文得罪大模型圈？Transformer不会推理，只是高级模式匹配器！所有LLM都判死刑

文章预览

↑ 点击 蓝字  关注极市平台 来源丨新智元 极市导读   苹果研究者发现：无论是OpenAI GPT-4o和o1，还是Llama、Phi、Gemma和Mistral等开源模型，都未被发现任何形式推理的证据，而更像是复杂的模式匹配器。无独有偶，一项多位数乘法的研究也被抛出来，越来越多的证据证实：LLM不会推理！ >> 加入极市CV技术交流群，走在计算机视觉的最前沿 正文 LLM真的会推理吗？ 最近，苹果研究员发文质疑道：LLM根本没有不会推理，所谓的推理能力只是复杂的模式匹配罢了。 论文地址：https://arxiv.org/abs/2410.05229 这项研究也在AI社区引起了广泛讨论。 谷歌DeepMind科学家Denny Zhou表示，自己ICML 2023的一片论文中，也发现了类似现象。 Meta AI研究者田渊栋表示，梯度下降可能无法学习到这样的权重。 巧的是，AI2等机构在23年的一篇研究也被翻出，证实模型根本没有学会数学推 ………………………………