LangChain - RAG: 卷完了 prompt 魔法、卷完了 raptor 递归软聚合，上绝招！让 Berkeley 的大神们教我们的 RAG 「作弊」吧！

文章预览

老规矩先说结论： 作弊这种行为自然人人喊打，但思路打开一下，在一个组织内部的相对固定的内部数据集上，通过 RAG 也好、FT 也罢，在这个相对固定的数据集里面把榜单排名（召回、生成效果）拉到最好，管你是引入了最好的学生（LLM）；还是让资质平平的学生（开源 LLM）开小灶好好学习+开卷考试做个小弊（DSF：Domain-Specifically Fine-tuning, from: RAFT 提出的概念) ；起码在这个场景里面，「作弊」并不是个贬义词对吧？那么如何帮助这个资质平平的学生学好、作好弊，答案就是这篇 RAFT ，让我们看看大名鼎鼎的 UC Berkeley 的天才们，是怎么教 RAG 的 LLM 在相对固定的内部数据集上作弊的: 很多团队为了尽快打开知名度，把各种榜单的数据集拿来训练，最终拟合出来的结果自然是各种「碾压」、各种「屠榜」，作弊当然人人喊打，但换一个思路来看， ………………………………