RAG 或长上下文？？本文发现，当资源充足时，长上下文在平均性能-20240825072741

文章预览

2024-08-25 07:27 本条微博链接 RAG 或长上下文？？ 本文发现，当资源充足时，长上下文在平均性能方面始终优于 RAG。 🤯 然而，RAG 显著较低的成本仍然是一个明显的优势。 为了解决这个问题，他们提出了一种新的“混合”方法 ----- 主要见解💡 ： • 在资源充足的情况下，长上下文始终优于 RAG • 由于计算成本显著降低，RAG 仍然具有相关性 • 超过 60% 的查询从长上下文和 RAG 中得出相同的预测 本文的解决方案🔧 ： • SELF ………………………………