主要观点总结
本文重新审视了检索增强生成（RAG）在长文本语言模型（LLMs）时代的角色。虽然长文本LLMs的出现引发了对RAG必要性的质疑，但作者认为极长文本上下文可能导致对相关信息的关注减少，潜在地降低问答任务的答案质量。为此，作者提出了一种新的顺序保持的检索增强生成（OP-RAG）机制，它在公共基准上的广泛实验证明其显著提高了RAG在长文本问答应用中的性能。OP-RAG的优越性能表明，有效的检索和集中的上下文利用可以胜过处理极长文本的蛮力方法。
关键观点总结
关键观点1: 引言部分介绍了早期的大型语言模型（LLMs）的上下文窗口长度有限，因此检索增强生成（RAG）是处理大规模上下文语料库的不可或缺的选择。随着先进技术的发展，LLMs开始支持更长的上下文窗口，引发了对RAG必要性的质疑。
本文介绍了研究背景和相关工作的进展，指出了问题的核心所在。
关键观点2: 作者观察到LLMs上下文中检索到的块的顺序对答案质量至关重要，并据此提出保持检索到的块在原始文本中的顺序。实验表明，所提出的顺序保持机制显著提高了RAG的答案质量。
作者通过实验验证了顺序保持机制的有效性，并分析了其对答案质量的影响。
关键观点3: 文章提出了一种新的顺序保持RAG（OP-RAG）机制，它通过保持原始文档中块的顺序，显著提高了RAG在长文本问答应用中的性能。实验证明，OP-RAG能够在显著减少输入长度的情况下实现更高的答案质量。
本文的核心贡献是提出了OP-RAG机制，并通过实验验证了其优越性。
关键观点4: 文章将OP-RAG与没有RAG的长文本LLM和SELF-ROUTE机制进行了比较，证明了OP-RAG的优越性。此外，文章还讨论了OP-RAG的优越性能表明有效的检索和集中的上下文利用可以胜过处理极长文本的蛮力方法。
本文通过与基线方法的比较，进一步突出了OP-RAG的优势，并强调了有效检索和上下文利用的重要性。
文章预览
在早期代语言模型（LLMs）的有限上下文限制中，检索增强生成（RAG）一直是过去基于上下文的答案生成的可靠解决方案。 最近，长文本LLMs的出现允许模型整合更长的文本序列，使RAG变得不那么吸引人。 最近的研究表明，长文本LLMs在长文本应用中显著优于RAG。 与现有工作支持长文本LLMs而不是RAG不同，我们认为LLMs中的极长文本上下文会减少对相关信息的关注，导致答案质量的潜在下降。 本文重新审视了长文本答案生成中的RAG。 我们提出了一种顺序保持的检索增强生成（OP-RAG）机制，它显著提高了RAG在长文本问答应用中的性能。 有了OP-RAG，随着检索到的块数量的增加，答案质量最初上升，然后下降，形成了一个倒U形曲线。 存在一个甜蜜点，OP-RAG可以在比长文本LLMs少得多的token的情况下实现更高的答案质量。 我们在公共基准上的广泛实验证明了
………………………………
