网页链接以前，RAG 系统是从文档中检索信息的标准方法。但是，如-20241014080139

文章预览

2024-10-14 08:01 本条微博链接 网页链接 以前，RAG 系统是从文档中检索信息的标准方法。但是，如果您不重复查询同一文档，使用长上下文 LLM 可能更方便、更有效。例如，Llama 3.1 8B 和 Llama 3.2 1B/3B 现在支持最多 131k 个输入标记，如果您的硬件可以处理，它们就是可行的替代方案。 无论哪种情况，使用 LLM 来回答问题的一个很大的限制是无法提供引用。 我刚刚阅读了一篇有趣的论文，旨在解决（或改进）使用细粒度引用的 ………………………………