手机上的“ChatGPT”时刻！面壁智能开源 MiniCPM 3.0，40 亿参数超越 GPT-3.5

文章预览

文 | 王启隆 出品丨AI 科技大本营（ID：rgznai100） 端侧 AI 这个概念已经火了一段时间。从最早微软提出了“小模型”（SLM）开始，几个法国人创立了一家叫 Mistral AI 的公司，带头把大语言模型弄的越来越小。后面谷歌苹果两家大厂响应了号召，分别推出了 Gemini Nano 和 Apple Intelligence，代表安卓与 iOS 两大阵营给出了一道范式。 但直到现在，端侧 AI 依然还是个很新颖的东西，除了开发者以外，很少有人会尝试在自己的小笔记本电脑上跑 AI 模型，更不要说手机了。大家对这种形式的 AI 该占多少内存，其实也没什么头绪：是像《原神》这样的手机跑分指标游戏一样，占用 30-40 GB，让手机不停运转发烫？还是说，无缝集成到手机的 OS 里面，让用户对 AI 几乎没有感知？ 前者对于一个每天都要 24 小时运行的应用来说，过于苛刻；而后者，你又会担心这样的 A ………………………………