专栏名称: AI大模型学习基地
人工智能AIGC行业探索分享,包括相关技术分享和资讯分享,以及相关商务洽谈合作。
今天看啥  ›  专栏  ›  AI大模型学习基地

图检索增强生成--GRAG

AI大模型学习基地  · 公众号  ·  · 2024-06-27 19:27

文章预览

RAG(Retrieval-Augmented Generation)主要依赖于文本相似性进行实体检索,但在处理包含文本和拓扑信息的图结构时显得不足。 GRAG旨在解决传统RAG方法在图结构文本中的不足。GRAG强调了子图结构的重要性,提升了检索和生成过程的效果,提高了多跳推理任务中的性能,并有效减少了“幻觉”(即生成错误信息)的发生。 GRAG包含四个主要阶段: 索引、图检索、软剪枝和生成 。 1 索引阶段 使用预训练语言模型(PLM)将k跳自我图(k-hop ego-graphs)索引并转换为图嵌入。 在这个阶段,GRAG首先对文本图中的每个节点周围的k跳自我图(k-hop ego-graphs)进行编码,并将这些自我图转换为图嵌入(graph embeddings)。 使用预训练的语言模型(PLM)来将节点和边上的文本属性转换为嵌入向量,然后通过均值池化(mean pooling)操作来获得每个子图的图嵌入。 2 图检索阶段 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览