大模型预训练“狼人杀”，是谁悄悄掉队了？

文章预览

作者|陶然   编辑|魏晓 国内最顶尖的这些大模型初创公司，现在站到了该做取舍的十字路口。 十月初，市场中传出消息，称智谱AI、零一万物、MiniMax、百川智能、月之暗面、阶跃星辰这六家被称为“AI六小虎”的中国大模型独角兽中，有两家公司已经决定逐步放弃预训练模型，缩减了预训练算法团队人数，业务重心转向AI应用。 所谓预训练，一般指的是利用大规模数据对模型进行无特定任务的初步训练，让模型学习到通用的语言模式、知识和特征等。 好比是给一个还不太懂事的孩子（模型）看大量资料（大规模数据），让他在这个过程中不断学习各种知识、认识各种事物的样子和规律（通用的语言模式、知识和特征）。 虽然这个孩子一开始并不知道具体要做什么任务，但通过广泛学习，会形成相对全面的知识储备。 之后，如果要让这个孩子去 ………………………………