仅凭 30 亿参数，就能脚踢 70 亿参数，苹果端侧 AI 背后都用了什么“黑科技”

文章预览

文/前方智能 Travis 在 Google I/O、微软 Build 连番在 AI 领域 “争奇斗艳” 一番之后，面对巨大的压力，苹果在 WWDC 上也向大众展示了他们在 AI 方面的努力 —— Apple Intelligence。 苹果将 Apple Intelligence 与设备深度集成，虽然也结合了以 Apple Silicon 驱动的云服务器，但在大部分的演示场景中，Apple Intelligence 仅在端侧就完成了请求的执行，整体效果还算不错。 用户发出的请求和指令能否在端侧执行，以及执行的效果好坏均取决于端侧模型的大小和调优，那么 Apple Intelligence 端侧的模型到底多大，使用了什么技术，又经过什么优化呢？ 苹果近日在官网发布了一篇技术博客，详细介绍了他们的 AI 模型，我们不妨一起来看看其中的细节。  端侧模型参数 30 亿  图 源：Apple Apple Intelligence 由多个生成式 AI 模型组成，这些模型专为用户的日常任务而设计，并能根 ………………………………