AI 项目立项调研报告

主要观点总结

本文介绍了大语言模型（LLM）的背景、发展历程、构建方法以及应用，重点讲述了如何构建基于大语言模型的RAG应用。文章指出从头开始构建大模型需要巨大的资源和成本，因此建议从使用现有的API和模型开始，通过提示工程逐步优化。对于自主研发，文章强调了迭代式开发的重要性，以及在技术投资上需与企业战略目标相匹配。文章还提到了构建RAG应用面临的挑战和需要解决的技术问题，以及实现战略目标的前提。

关键观点总结

关键观点1: 大语言模型（LLM）是机器学习的一种重要工具和手段，NLP领域的一个重要技术。

LLM基于深度学习中的神经网络技术构建，近年来发布的大型语言模型已经取得了显著进展。

关键观点2: 构建大语言模型需要巨大的资源和能力，包括数学、工程、计算机科学等领域的知识。

构建过程包括确定用例、创建模型架构、创建变换器的组件、组装编码器和解码器、数据整理、训练模型、评估模型和微调模型等步骤。

关键观点3: 基于大语言模型的RAG应用是一种有效的NLP应用形式，通过检索和生成能力结合，可以提供更准确的答案。

构建RAG应用需要从使用模型厂商提供的API或私有化部署开源大模型开始，通过提示工程逐步优化，最终可能需要进行模型微调。

关键观点4: 自主研发RAG应用需要迭代式开发，并需要与技术实力相匹配的战略目标驱动。

需要投入研发人员、GPU算力等资源，并需要解决技术上的挑战，如提高回答的准确率、识别各种类型的文件等。

关键观点5: 实现RAG应用的战略目标需要一些前提，包括研发人员的投入和对AI产品的认知、热情和学习动力。

此外，项目的原始驱动也是实现目标的重要因素，即解决客户的问题并具备变现能力。

文章预览

介绍 本文为我为公司所写 AI 项目的调研文件，希望能对有类似需求的创业公司有所帮助，以下为文件全文 大语言模型 在介绍大语言模型前，先来厘清几个基本概念 人工智能、机器学习、深度学习之间的关系 什么是机器学习？ 机器学习的基本思路 把现实生活中的问题抽象成数学模型，并且很清楚模型中不同参数的作用 利用数学方法对这个数学模型进行求解，从而解决现实生活中的问题 评估这个数学模型，是否真正地解决了现实生活中的问题，解决得如何？ 简单来说， 通过训练集，不断识别特征，不断建模，最后形成有效的模型，这个过程就叫“机器学习”！ 机器学习根据训练方法大致可以分为 3 大类： 监督学习 ：监督学习是指我们给算法一个数据集，并且给定正确答案。机器通过数据来学习正确答案的计算方法。 非监督学习 ：非监督学 ………………………………