专栏名称: AINLP
关注AI、NLP相关技术,关注算法研发职位和课程;回复"文章"获取历史信息;双语聊天机器人"无名";中英翻译请输入:翻译 翻译内容;自动对联,请输入:上联 上联内容;调戏夸夸聊天机器人,请求夸、求赞;查询相似词,请输入: 相似词 词条
今天看啥  ›  专栏  ›  AINLP

tree2retriever:面向RAG场景的递归摘要树检索器实现

AINLP  · 公众号  ·  · 2024-06-02 10:12
    

文章预览

tree2retriever 面向RAG场景的递归摘要树检索器实现 Recursive Abstractive Processing for Tree-Organized Retrieval Github:https://github.com/yanqiangmiffy/tree2retriever Example import  logging import  pickle from  tree2retriever.cluster_tree_builder  import  ClusterTreeBuilder, ClusterTreeConfig from  tree2retriever.embedding  import  SBertEmbeddingModel from  tree2retriever.summary  import  GLMSummarizationModel from  tree2retriever.tree_retriever  import  TreeRetriever, TreeRetrieverConfig if  __name__ ==  '__main__' :     tree_builder_type =  'cluster'     logging.basicConfig(format= "%(asctime)s - %(message)s" , level=logging.INFO)     supported_tree_builders = { "cluster" : (ClusterTreeBuilder, ClusterTreeConfig)}     tree_builder_class, tree_builder_config_class = supported_tree_builders[         tree_builder_type     ]     embedding_model = SBertEmbeddingModel(model_name= r"I:\pretrained_models\bert\eng ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览