文章预览
文章介绍了 REAPER ( Reasoning based Retrieval Planning for Complex RAG Systems ),这是一种基于大型语言模型( LLM )的规划器,用于在复杂的对话系统中生成检索计划。 REAPER 旨在解决在大规模异构数据存储中进行有效证据检索的问题,尤其是在需要多步骤检索的情况下。传统的 RAG ( Retrieval Augmented Generation )系统通常采用链式思考( Chain-of-Thought, CoT )的方式,将推理和检索步骤交织在一起处理复杂的查询任务,但这种方式会增加系统的响应时间。 REAPER 能够显著降低这种延迟,并且比基于分类的方法更容易扩展到新的使用场景。 该研究展示了 REAPER 在零售对话助理中的应用效果,这类助手需要从多个来源如产品评论、信息页面等检索信息来回答客户的问题。这些对话系统通常被训练以理解产品目录和开放数据源,以便于帮助用户发现产品。对于复杂的对
………………………………