专栏名称: AI大模型学习基地
人工智能AIGC行业探索分享,包括相关技术分享和资讯分享,以及相关商务洽谈合作。
目录
相关文章推荐
白鲸出海  ·  GTC2024 ... ·  11 小时前  
今天看啥  ›  专栏  ›  AI大模型学习基地

基于网络搜索的长篇问答能力优化:FoRAG

AI大模型学习基地  · 公众号  ·  · 2024-06-23 00:21

文章预览

检索增强生成(RAG,Retrieval Augmented Generation)可以利用搜索引擎检索技术来提升长篇问答质量,因而在 QA 任务中广受欢迎。尽管有多种开源方法和网络增强的商业系统如 Bing Chat 出现,但生成长篇答案的 事实性 和 逻辑清晰度 两大难题仍未解决。FoRAG试图通过下面两个关键点来解决这些挑战。 首先提出了一种 提纲增强的生成器 ,确保多方面答案生成逻辑清晰。 接着,开发了一种基于 双重细粒度 RLHF 框架 的事实性优化方法,该框架在不同粒度级别上进行自动评估和奖励建模, 提高答案在事实性方面的表现 。 1 提纲增强生成器 通过网络搜索引擎检索到相关的信息,在利用这些信息生成长答案之前,提纲增强生成器首先草拟一个组织模式和纲要,以生成逻辑更加清晰的回复。 这样可以确保生成的答案能够涵盖问题的多个方面,并且逻辑结构清晰 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览