基于网络搜索的长篇问答能力优化：FoRAG

文章预览

检索增强生成（RAG，Retrieval Augmented Generation）可以利用搜索引擎检索技术来提升长篇问答质量，因而在 QA 任务中广受欢迎。尽管有多种开源方法和网络增强的商业系统如 Bing Chat 出现，但生成长篇答案的 事实性 和 逻辑清晰度 两大难题仍未解决。FoRAG试图通过下面两个关键点来解决这些挑战。 首先提出了一种 提纲增强的生成器 ，确保多方面答案生成逻辑清晰。 接着，开发了一种基于 双重细粒度 RLHF 框架 的事实性优化方法，该框架在不同粒度级别上进行自动评估和奖励建模， 提高答案在事实性方面的表现 。 1 提纲增强生成器 通过网络搜索引擎检索到相关的信息，在利用这些信息生成长答案之前，提纲增强生成器首先草拟一个组织模式和纲要，以生成逻辑更加清晰的回复。 这样可以确保生成的答案能够涵盖问题的多个方面，并且逻辑结构清晰 ………………………………