论文解读 | NeurIPS'24 IRCAN：通过识别和重新加权上下文感知神经元来减轻大语言模型生成中的知识冲突

文章预览

点击蓝字 关注我们 AI TIME欢迎每一位AI爱好者的加入！ 点击  阅读原文  观看作者讲解回放！ 作者简介 史丹 ，天津大学博士生 内容简介 大语言模型（LLM）经过海量数据训练后编码了丰富的世界知识。最近的研究表明，当LLM面临其编码的参数知识和上下文中提供的知识之间存在矛盾（被称为知识冲突）时，可能会过度依赖其内在的参数知识，而不能充分重视上下文中引入的新知识。为了减轻该问题，本文提出了一个新颖的框架IRCAN，通过识别和重新加权上下文感知神经元，引导LLM根据上下文中提供的新知识生成对上下文更敏感的输出。具体而言，IRCAN首先利用基于积分梯度的上下文感知归因评分，识别出显著贡献于处理上下文的神经元。随后，通过重新加权来增强所识别的上下文感知神经元。在来自多个系列的模型和多种任务上进行的广泛实验表 ………………………………