通义星尘个性化大模型相关技术与应用

文章预览

导读   本文介绍了 通义星尘个性化大模型相关技术与应用 。（本文整理自 2023 年 11 月 24 日 DataFunCon2023（深圳站）（线下）严明老师关于《 通义星尘个性化大模型相关技术与应用 》的演讲，文章内容均切合于当时时间点） 主要内容包括以下几个部分： 1.  大模型发展背景介绍 2.  通义星尘个性化大模型 分享嘉宾｜ 严明 博士   阿里巴巴   高级算法专家   编辑整理｜王甲君 内容校对｜李瑶 出品社区｜ DataFun 01 大模型发展背景介绍 大模型的核心技术发展可概括为从预训练模型到指令遵从(Instruction-Following)、多面对齐（Alignment）再到模型生态（Plugin）的演进。 最初的起源可追溯到 2018、2019 年的 Bert、GPT-1 预训练模型，通过海量无监督数据预训练，实现了 NLP 任务的通用效果。第二阶段，GPT 系列模型致力于减少训练数据量，通过模型规模的扩大达 ………………………………