EMNLP 2024最佳论文：从反向传播矩阵来理解Transformer的运作机制

文章预览

论文标题： Backward Lens: Projecting Language Model Gradients into the Vocabulary Space 论文链接： https://arxiv.org/abs/2402.12865 引言 在现代自然语言处理（NLP）中，Transformer模型已成为处理语言任务的主要架构，尤其是在生成模型方面，如生成预训练 Transformer（GPT）。理解这样的语言模型（LM）如何学习和记忆信息是深度学习研究的重要目标之一。特别是反向传播过程在模型更新权重的核心作用，使得对这一过程的深入分析变得尤为关键。 反向传播算法通过计算每一层的梯度，更新模型中的权重。这一机制不仅使模型能够学习新的信息，也为研究人员提供了解释模型行为的机会。近期的可解释性研究已提出了多种方法，试图通过可视化权重和隐藏状态来解读语言模型的内部运作，尤其是在前向传递阶段。然而，关于反向传递的梯度如何影响模型学习和知识存储的探讨 ………………………………