RAG LLM App开发实战

文章预览

大型语言模型（LLM）无疑改变了我们与信息交互的方式。 然而，对于我们可以向他们提出的要求，它们也有相当多的限制。 LLM（例如 Llama-2-70b、gpt-4 等）仅了解他们接受过训练的信息，当我们要求他们了解除此之外的信息时，他们将无法做到这一点。 基于检索增强生成（RAG：Retrieval Augmented Generation）的LLM应用程序解决了这个确切的问题，并将LLM的实用性扩展到我们的特定数据源。 图片 在本指南中，我们将构建一个基于 RAG 的 LLM 应用程序，其中我们将合并外部数据源以增强 LLM 的功能。 具体来说，我们将构建一个可以回答有关 Ray 的问题的助手——Ray 是一个用于生产和扩展 ML 工作负载的 Python 框架。 这里的目标是让开发人员更容易采用 Ray，而且，正如我们将在本指南中看到的，帮助改进 Ray 文档本身并为其他 LLM 应用程序提供基础。 我们还将分 ………………………………