RAPTOR 检索树再次进一步提升RAG性能的设计思路

文章预览

点击上方 蓝色 “ 顶层架构领域 ”，关注精彩与你分享 大多数现有方法仅从检索语料库中检索短的连续块，限制了对整个文档上下文的整体理解。 RAPTOR（Recursive Abstractive Processing for Tree-Organized Retrieval）引入了一种新方法，即递归嵌入、聚类和总结文本块，从下往上构建具有不同总结级别的树。在推理时，RAPTOR 模型从这棵树中检索，整合不同抽象级别的长文档中的信息。 RAPTOR（Recursive Abstractive Processing for Tree-Organized Retrieval）比传统的检索增强型 LM 性能与绝对准确度上提高 20%。 开源地址： https://github.com/parthsarthi03/raptor 论文地址： https://arxiv.org/abs/2401.18059 一、RAPTOR 检索树的构建过程 RAPTOR模型的精髓在于其树状结构的构建，这一过程通过精心设计的递归算法实现，形成了一个层次分明的多层级树形架构。这种结构不仅显著提升了模型对长文本信 ………………………………