文章预览
本文转载自量子位公众号 蔡永强 投稿 量子位 | 公众号 QbitAI 没有算法没有实验，从2610篇收录论文中脱颖而出，成为唯一一篇 纯理论 入选2024 ICML Spotlight的论文。 “ Vocabulary for Universal Approximation: A Linguistic Perspective of Mapping Compositions （词的万能逼近：从语言角度看映射组合） ”，这篇纯理论论文讲了什么，何以入选Spotlight？ 简单来说，目前基于深度学习的序列模型，如语言模型，受到了广泛关注并取得了成功，这促使研究人员探索 将非序列问题转换为 序列形式 的可能性。 沿着这一思路，深度神经网络可以表示为一系列线性或非线性映射的 复合 函数 ，其中每个映射都可以看作是一个 “词” 。 然而，线性映射的权重是未确定的，因此需要无限多个词。 而这篇论文研究有限情形并构造性地证明了存在一个 有限的函数词汇表V ，用于实现万能逼
………………………………
