RAG真能提升LLM推理能力？人大最新研究：数据有噪声，RAG性能不升反降

主要观点总结

文章讨论了大型语言模型（LLM）的缺陷，包括缺乏事实信息和推理能力的问题。通过结合外部检索器增强LLM的性能已成为主流方案，其中检索增强生成（RAG）是其中一种方法。文章深入探讨了RAG如何辅助推理，指出其提升推理能力的局限性，以及面临的主要挑战，包括文档中的噪声和triple-wise problem。文章还介绍了通过微调模型和引入virtual token来解决这些问题的方法。

关键观点总结

关键观点1: LLM的缺陷包括缺乏事实信息和推理能力。

由于LLM的知识是通过其参数进行编码记忆的，融入新知识需要进一步的微调，消耗大量时间与计算资源。

关键观点2: 结合外部检索器增强LLM的性能已成为主流方案。

RAG是其中一种方法，可以帮助LLM提升推理能力，但其提升有限，且由于retriever中的噪声，RAG甚至可能造成推理能力的下降。

关键观点3: RAG辅助推理的局限性。

RAG通过将检索到的文档信息融入推理过程中，可以简化推理树的某些节点，从而降低推理深度。然而，这一过程类似于核武器中的裂变反应，其效果取决于许多因素，包括文档信息的准确性和层与层之间的连接程度。

关键观点4: 文档噪声对RAG的影响。

在实际的RAG场景中，从文档中检索到的信息可能包含噪声，需要进一步的过滤和处理。过滤噪声的成本如果超过了RAG带来的帮助，那么RAG将无法提升推理能力。

关键观点5: 解决triple-wise problem的方法。

在判断token的相关性时，需要考虑多个token的信息，这被称为triple-wise problem。通过引入virtual token和微调模型，可以将这个问题简化为pair-wise problem，从而提高LLM在面临噪声时的性能。

文章预览

文章转载于新智元 近年来，大语言模型已经在多种任务上表现出来出色的能力，然而，由于缺乏事实性信息，当前的LLM经常出现严重的幻觉现象；此外，LLM中的知识是通过其参数进行编码记忆，这意味着要融入新知识需要进一步的微调，消耗大量的时间与计算资源。因此，通过结合外部检索器来增强LLM的性能，已经成为了主流的方案。 尽管RAG在现代LLM中被广泛采用，但对于RAG如何辅助推理的深入理解仍然是一个未解的问题。目前，大多数研究人员主要将RAG视为提供领域特定知识的方法，并常常试图通过RAG使LLM适应特定子领域。然而，RAG在增强推理能力方面的影响尚未得到深入研究。 近日，来自中国人民大学的学者指出，RAG可以帮助LLM提升其推理能力，但其提升有限，并且由于retriever中的噪声，RAG甚至可能造成推理能力的下降。 论文地址： https:// ………………………………