KG与大模型之三问三答及Agent遇见RAG：PersonalRAG及长文本压缩新策略CompAct

主要观点总结

本文主要介绍了关于大模型进展的两个工作：PersonaRAG和文本压缩CompAct。前者旨在通过结合用户中心的智能代理来增强检索增强生成系统，后者则专注于通过主动策略压缩检索到的文档以增强问答能力。文章还提到了这两个工作的关键技术和实现思路，以及它们面临的挑战和可能的改进方向。

关键观点总结

关键观点1: 关于RAG中的文本压缩CompAct的介绍

CompAct是一个新型的框架，它通过主动策略压缩检索到的大量文档，以便在问答系统中更有效地使用这些文档。它具体实现了检索、压缩、评估和迭代终止等阶段，并指出了评估阶段的重要性及其具体评估组成、条件判断和迭代终止的内容。

关键观点2: PersonaRAG的基本实现思路

PersonaRAG是一个旨在通过结合用户中心的智能代理来增强检索增强生成系统的框架。它分为检索召回、用户交互分析和认知动态适配三步。其中用户交互分析是重点，包括用户画像代理、上下文检索代理、实时会话代理、文档排名代理和反馈代理等，这些代理能够实时分析用户交互数据并据此调整系统的检索和生成响应。

关键观点3: 两个工作的挑战和点评

虽然这两个工作都尝试通过不同的方法提高大模型的效果，但它们也面临一些挑战，如推理时间较长、评估的准确性等。不过，它们也提出了一些有趣的思路和解决方案，为相关领域的研究提供了有价值的参考。

文章预览

今天是2024年7月17日，星期三，北京，天气晴。 我们来看看老刘说NLP20240715大模型进展早报，很有趣，其中提到了几个最新的RAG工作。 早上，看到知识图谱与大模型的一些 科普性的总结 ，来自OpenKG的 SIGData 小组( SIGData兴趣组：利用大模型构建LLM需要的知识图谱，https://mp.weixin.qq.com/s/cFZZzRjJAeeMgz296nYKlQ )，很有趣，引用出来，确定为三问三答: ‍ ‍ ‍ ‍ ‍ ‍ ‍ ‍ ‍ ‍ ‍ ‍ ‍ ‍ ‍ ‍ ‍ ‍ ‍ ‍ ‍ ‍ ‍ ‍ ‍ ‍ ‍ ‍ ‍ ‍ ‍ ‍ ‍ ‍ 回到正题，我们今天来看PersonaRAG以及关于RAG中的文本压缩CompAct: 压缩检索到的文档以增强问答能力这两个工作，会有一些思路。 供大家一起思考并参考。 一、关于RAG中的文本压缩CompAct: 压缩检索到的文档以增强问答能力 《CompAct: Compressing Retrieved Documents Actively for Question Answering》：(https://arxiv.org/pdf/2407.09014)很有 ………………………………