微软最新《检索增强生成（RAG）》综述

文章预览

增强外部数据的大型语言模型（LLMs）在完成现实任务方面展现出卓越的能力。外部数据不仅增强了模型的领域特定专业知识和时间相关性，还减少了幻觉现象，从而提升了输出的可控性和可解释性。将外部数据集成到LLMs中的技术，如检索增强生成（RAG）和微调，正受到越来越多的关注和广泛应用。然而，数据增强LLMs在各个专业领域的有效部署面临重大的挑战。这些挑战涵盖了广泛的问题，从检索相关数据和准确理解用户意图，到充分利用LLMs在复杂任务中的推理能力。 我们认为，数据增强LLM应用没有通用的解决方案。在实践中，表现不佳往往源于未能正确识别任务的核心重点，或是因为任务本质上需要多种能力的结合，这些能力必须分解以便更好地解决。在这项调查中，我们提出了一种RAG任务分类方法，根据所需外部数据类型和任务的主要重点 ………………………………