73年前，香农已经给大模型发展埋下一颗种子

文章预览

单击上方“ 图灵人工智能 ”，选择“星标”公众号 您想知道的人工智能干货，第一时间送达 AI考古，追溯到了祖师爷头上。 当今AI领域爆火的大语言模型（LLM），其原理是 香农 提出来的？ 今天，普林斯顿大学教授承现峻（Sebastian Seung）抛出了这样一个观点：1951年，在 贝尔实验室 （总部位于新泽西州 Murray Hill）工作的克劳德・香农提出了预测下一个单词的问题，这成为了当前大语言模型（LLM）的种子。 如今很多看似新潮前沿的概念，其实距离提出已经相隔了好几十年，即使在计算机科学这样的新兴领域，例子也屡见不鲜。这个观点以及提到的Murray Hill引起热议，图灵奖得主、Meta首席科学家 LeCun 表示，新泽西州的Murray Hill、Florham Park和普林斯顿都「诞生」了很多有影响力的工作。 LeCun又列举了很多知名的研究成果： Hopfield网络（美国科学家Hopfie ………………………………