大模型微调方案设计和能力整合

文章预览

导读   本文将介绍大模型应用开发相关的知识地图 。 主要包括以下三大部分： 1.  总述 2.  核心要素 3.   应用案例 分享嘉宾｜ 侯容 知乎 舰桥平台研发 Leader                   姚经纬 知乎 内容理解 研发 Leader 编辑整理｜高敏 内容校对｜李瑶 出品社区｜ DataFun 01 总述 1. 技术架构 在构建大型模型应用时，技术架构的规划至关重要。整体架构可被划分为四个层次：基础设施层、模型工具层、模型引擎层及大模型应用层。 （1）基础设施层：涵盖了数据服务、云平台及开源社区等多个方面，为应用开发提供坚实的基础。 数据服务：大规模模型对数据的要求极高，厂商可通过自主标注数据或采购外部数据的方式满足需求。 云平台：大规模模型的训练和推理过程对算力资源的需求也十分庞大，拥有自身基础架构的厂商可自行采购裸金属或利用现有 ………………………………