小米二代大模型来了！平均性能提升超45%的背后玄机

文章预览

深蓝学院正在以城市为点位举办（免费）线下沙龙聚会， 「深蓝学院全域星球」 （点击可低价加入） ，扩宽认知视野。 来源｜深蓝学院全域星球 在过去一年——AI大模型“元年”中，小米凭借技术创新，在业界率先实现了在手机NPU上运行十亿参数规模的大语言模型，展现了 端侧小模型与云端大模型 相媲美的性能。 近日，小米大模型已经实现了 从一代到二代（MiLM2）的升级迭代！ 此次迭代不仅扩充了训练数据的规模、提升了数据的品质，平均性能更是提升了超45%！ 并且有内部人士透露，小米第三代将更强！那么～ ‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍ 小米第二代大语言模型的几个主要升级了什么： 1、更广的适应性： 丰富了模型的参数矩阵，参数规模同时向下和向上扩充，实现了云边端结合，参数尺寸最小为0.3B ………………………………