【KDD2024教程】RAG遇上LLMs：迈向检索增强的大语言模型

文章预览

作为人工智能领域最先进的技术之一， 检索增强生成（RAG） 技术能够提供可靠且最新的外部知识，为众多任务带来了巨大的便利。特别是在AI生成内容（AIGC）时代，RAG强大的检索能力可以提供额外的知识，帮助现有的生成式AI生成高质量的输出。最近，大型语言模型（LLMs）在语言理解和生成方面展现了革命性的能力，但它们仍面临固有的局限性，如幻觉和过时的内部知识。鉴于RAG在提供最新且有用的辅助信息方面的强大能力， 检索增强的大型语言模型（RA-LLMs） 应运而生，利用外部的权威知识库，而不是单纯依赖模型的内部知识，从而增强LLMs的生成质量。 在本教程中，我们全面回顾了现有的关于检索增强大型语言模型（RA-LLMs）的研究工作，涵盖了三个主要技术视角：架构、训练策略和应用 。作为基础知识，我们简要介绍了LLMs的基本原理及其 ………………………………