大模型面经—RAG工程实践经验总结

文章预览

技术总结专栏 作者：喜欢卷卷的瓦力  RAG工程经验面经总结。 本篇属于RAG系列，RAG系列的文章可以参考下面的内容。 大模型面经——以医疗领域为例，整理RAG基础与实际应用中的痛点 RAG工程如何评测？ 虽然RAG工程整体有很多论文、算法和方法论，但在实际使用过程中，当数据量大了RAG很容易出现不可控的问题， 本篇就针对实践过程中遇到的问题总结面经进行分享，看看能不能给大家提供一些帮助。下面是一个快捷目录。 一. RAG如何去优化索引结构？  二. 当混合检索以及基于不同大小的chunk去检索效果都不太好的时候，如何优化？ 三. 如何通过rerank去提升RAG效果的，有哪些方案？ 下面是答案。  一. RAG如何去优化索引结构？  1. 优化被检索的embedding 1）微调被检索的embedding 目的： 让被检索的内容与query之间的相关性更加紧密 特别是术语更新较 ………………………………