Lookback Lens：用注意力图检测和减轻llm的幻觉

文章预览

来源：DeepHub IMBA 本文 约2000字 ，建议阅读 5 分钟 本文提出了一个简单的幻觉检测模型。 在总结文章或回答给定段落的问题时，大语言模型可能会产生幻觉，并会根据给定的上下文回答不准确或未经证实的细节，这也被称为情境幻觉。为了解决这个问题，这篇论文的作者提出了一个简单的幻觉检测模型，其输入特征由上下文的注意力权重与新生成的令牌(每个注意头)的比例给出。它被称为回看或基于回看比率的检测器。 该方法计算为给定上下文的注意力权重与新生成的令牌的比值。在每个时间步，计算每个注意头的回看率，并训练一个线性分类器，称之为Lookback Lens，根据回看率特征检测上下文幻觉，如下图所示 在解码过程中可以进一步整合该检测器，获得可减少幻觉的回看透镜引导解码策略。 幻觉检测 Lookback Lens（回看透镜） 作者引入了回看比 ………………………………