文章预览
检索增强生成(RAG,Retrieval Augmented Generation)可以利用搜索引擎检索技术来提升长篇问答质量,因而在 QA 任务中广受欢迎。尽管有多种开源方法和网络增强的商业系统如 Bing Chat 出现,但生成长篇答案的 事实性 和 逻辑清晰度 两大难题仍未解决。FoRAG试图通过下面两个关键点来解决这些挑战。 首先提出了一种 提纲增强的生成器 ,确保多方面答案生成逻辑清晰。 接着,开发了一种基于 双重细粒度 RLHF 框架 的事实性优化方法,该框架在不同粒度级别上进行自动评估和奖励建模, 提高答案在事实性方面的表现 。 1 提纲增强生成器 通过网络搜索引擎检索到相关的信息,在利用这些信息生成长答案之前,提纲增强生成器首先草拟一个组织模式和纲要,以生成逻辑更加清晰的回复。 这样可以确保生成的答案能够涵盖问题的多个方面,并且逻辑结构清晰
………………………………