专栏名称: AINLP
关注AI、NLP相关技术,关注算法研发职位和课程;回复"文章"获取历史信息;双语聊天机器人"无名";中英翻译请输入:翻译 翻译内容;自动对联,请输入:上联 上联内容;调戏夸夸聊天机器人,请求夸、求赞;查询相似词,请输入: 相似词 词条
今天看啥  ›  专栏  ›  AINLP

RAG框架,都在这了!

AINLP  · 公众号  ·  · 2024-06-20 09:44
    

文章预览

RAG 很多人都听说过,或者实践过,目前最直接的应用就是构建智能问答系统。 什么是 RAG? RAG 是 R etrieval A ugmented G eneration 的简写,翻译过来就是 检索增强生成 。 从名字就可以拆分出 RAG 的三大部分,检索、增强、生成,表面意思就是 : 1、去知识库检索相关的各种东西 2、把检索出来的信息,融合到 prompt 中,增强输入信息 3、最后是大模型生成更符合事实性的回答 为什么需要用到 RAG 呢? 大模型"幻觉"的问题一直存在,RAG 是缓解其幻觉的一个很重要的途径,当然还有其他缓解的方式,SFT 这些。 有几点比较重要的优势吧。 外挂知识,可以增加 LLM 推理的能力、准确性,能够更加复合客观事实。 知识库增删修改更加方便,遇到 bug 及时修复知识库,或者更新知识库即可,基本是用户没有感知的状态,不像 SFT 还需要重新训练,耗费时间。 再就是 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览