【源头活水】揭示Transformer重要缺陷！北大提出傅里叶分析神经网络FAN，填补周期性特征建模缺陷

文章预览

在 科 学 研 究 中 ， 从 方 法 论 上 来 讲 ， 都 应 “ 先 见 森 林 ， 再 见 树 木 ” 。 当 前 ， 人 工 智 能 学 术 研 究 方 兴 未 艾 ， 技 术 迅 猛 发 展 ， 可 谓 万 木 争 荣 ， 日 新 月 异 。 对 于 A I 从 业 者 来 说 ， 在 广 袤 的 知 识 森 林 中 ， 系 统 梳 理 脉 络 ， 才 能 更 好 地 把 握 趋 势 。 为 此 ， 我 们 精 选 国 内 外 优 秀 的 综 述 文 章 ， 开 辟 “ 综 述 专 栏 ” ， 敬 请 关 注 。 该架构通过引入傅里叶级数的思想来捕捉数据中的周期性模式，显著提升了模型在周期性建模、符号公式表示、时间序列预测和语言建模等任务上的表现，并有望填补Transformer等基础模型在周期性特征建模方面的缺陷。 周期性现象广泛存在，深刻影响着人类社会和自然科学。作为最重要的基本特性之一，许多规律都显式或隐式地包含周期性，例如天文学中 ………………………………