专栏名称: AII大模型
分享大模型相关最新技术、信息、趋势和资料,享受分享的快乐,感谢关注。
今天看啥  ›  专栏  ›  AII大模型

RAG圈的DeepSeek,中科院DeepRAG让大模型带着“思考”检索,性能提升21.99%

AII大模型  · 公众号  ·  · 2025-02-08 00:00
    

文章预览

将 推理与RAG 相结合仍面临挑战,例如 复杂查询 需要多步分解,且LLMs难以生成精确的子查询,导致检索效率低下。 人类思维过程与 DeepRAG 的对应关系 。具体来说,检索叙事确保了结构化和自适应的检索流程,根据之前检索到的信息生成子查询,并且原子决策动态地决定是否检索外部知识,或者仅依赖于每个子查询的参数知识。 中科院 & 中科大 & 腾讯微信AI部联合推出 最新(2025.02) DeepRAG,让 大型语言模型逐步推理检索: DeepRAG框架 将检索增强推理建模为马尔可夫决策过程(MDP),通过迭代分解查询,动态决定是否检索外部知识或依赖参数推理。 DeepRAG 框架的概述 ,包括三个步骤:(1) 二叉树搜索 ,(2) 模仿学习 ,以及(3) 校准链 。给定一个数据集,首先使用二叉树搜索来合成模仿学习的数据,使模型能够学习检索模式。随后,利用二叉 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览