文章预览
©作者 | 蔡永强 来源 | 量子位 没有算法没有实验,从 2610 篇收录论文中脱颖而出,成为 唯一一篇纯理论入选 2024 ICML Spotlight 的论文 。 “Vocabulary for Universal Approximation: A Linguistic Perspective of Mapping Compositions(词的万能逼近:从语言角度看映射组合)”,这篇纯理论论文讲了什么,何以入选 Spotlight? 论文标题: Vocabulary for Universal Approximation: A Linguistic Perspective of Mapping Compositions 论文链接: https://arxiv.org/pdf/2305.12205 简单来说,目前基于深度学习的序列模型,如语言模型,受到了广泛关注并取得了成功,这促使研究人员探索 将非序列问题转换为序列形式 的可能性。沿着这一思路,深度神经网络可以表示为一系列线性或非线性映射的 复合函数 ,其中每个映射都可以看作是一个 “词” 。 然而,线性映射的权重是未确定的,因此需要无限多个词。
………………………………