百度也来卷RAG了，Self-Reasoning比Self-RAG最高提升11.8%

文章预览

检索增强型语言模型（Retrieval-Augmented Language Model, RALM）通过在推理过程中整合外部知识，减轻了LLM固有的事实幻觉问题。然而， RALMs 仍面临挑战： 检索到的不相关文档可能导致无效的回答生成 、 生成的输出中缺乏适当的引用 ，使得验证模型的可信度变得复杂。 一个示例，展示了百度自我推理（Self-Reasoning）框架如何通过相关意识过程、证据意识选择过程和轨迹分析过程生成推理轨迹。 为了解决上述问题，百度（Baidu Inc.）提出了一种新颖的自我推理框架（ SELF-REASONING framework），旨在通过LLM自身生成的推理轨迹来提高RALMs的可靠性和可追溯性。 它的创新之处在于通过 端到端的框架 直接增强LLMs的性能，而无需依赖外部的推理模型，从而提供了一种更有效和可扩展的解决方案。 对提高RALMs的自我推理框架的说明图。 上层 是基本的LLMs，它们通过固 ………………………………