Vector | Graph：蚂蚁首个开源Graph RAG框架设计解读

文章预览

检索增强生成 (RAG：Retrieval Augmented Generation)技术旨在把信息检索与大模型结合，以缓解大模型推理“幻觉”的问题。近来关于RAG的研究如火如荼，支持RAG的开源框架也层出不穷，并孕育了大量专业领域的AI工程应用。我们设计了一个通用的开源RAG框架，以兼容未来多样化的基础研究建设和工程化应用诉求。 01 概述 RAG的目标是通过知识库增强内容生成的质量，通常做法是将检索出来的文档作为提示词的上下文，一并提供给大模型让其生成更可靠的答案。更进一步地，RAG的整体链路还可以与提示词工程(Prompt Engineering)、模型微调(Fine Tuning)、知识图谱(Knowledge Graph)等技术结合，构成更广义的RAG问答链路。 （图：广义的RAG问答链路） 除了传统意义上的增强内容生成，RAG的理念还可以进一步泛化到链路的其他阶段： 增强训练 REALM [7] 引入了知识检索器增强 ………………………………