腾讯研究院x普通人的AI自由 | 苹果能引领端侧AI时代吗？

主要观点总结

本文介绍了苹果新款iPhone 16搭载端侧大模型的情况，以及端侧大模型在手机应用中的发展现状和趋势。包括技术瓶颈、产品价值、端侧多模态大模型的应用等方面进行了详细阐述。

关键观点总结

关键观点1: 苹果新款iPhone 16搭载端侧大模型，带来更丰富的智能体验。

苹果新款iPhone 16采用了端侧大模型技术，该技术能够为用户带来更加智能的体验。包括生成、润色文字、总结文本、回复邮件、生成表情符号、搜索照片和视频等任务。

关键观点2: 端侧大模型的现状和发展趋势。

目前，端侧大模型还在发展中，存在参数规模、推理速度、能耗等方面的挑战。未来，端侧大模型将与云上模型相互配合，共同实现更高级的功能，如通用Agent、复杂COT/TOT、超长文本等。

关键观点3: 端侧大模型的技术瓶颈。

端侧大模型面临计算、内存读写速度、能耗等技术瓶颈。其中，计算速度受限于手机算力；内存读写速度和容量也在一定程度上限制了模型的应用；而能耗是手机端侧大模型的主要瓶颈之一，发热和续航表现短期不会大幅优化。

关键观点4: 产品价值。

端侧大模型的产品价值在于为用户带来智慧手机的价值，如更智能的助手、更便捷的服务等。同时，对于手机厂商来说，端侧大模型可以带来新的功能体验，提升手机价值，控制云上推理成本等。

关键观点5: 端侧多模态大模型的应用和挑战。

端侧多模态大模型主要用于图像理解和生成，但其价值有限。目前，多模态生成在端侧的应用场景还比较有限，主要依靠传统的计算机视觉技术。同时，端侧多模态模型的推理计算量大，对算力的占用较高。

关键观点6: AI Agent的发展和应用。

AI Agent是未来发展的关键方向之一，能够实现更广泛的自动化决策和执行能力。目前，Agent的发展还处于初级阶段，需要多种技术的组合创新。长期来看，记忆问题是Agent发展的难点之一，需要研发更先进的记忆技术。

关键观点7: 端侧与云上的应用场景展望。

端侧和云上的应用场景将长期并存。复杂任务、长Token、Agent等需要依赖云上模型的能力；而离线模型可以提升网络不佳情况下的效果，具有一定的商业价值。同时，手机厂商通过端侧模型可以获取更多的流量和收益。

文章预览

腾讯研究院大模型研究小分队x“普通人的AI自由”公众号联合研究 北京时间9月10日凌晨，苹果正式发布了iPhone 16，这是苹果第一款真正意义上的 AI iPhone。Apple Intelligence采用“端侧大模型+云端大模型”的方式，将为用户带来更丰富的智能体验。而这仅仅是端侧智能的开始，未来我们可以想象，一个由大模型带来的移动智能生态正在缓缓打开。 太长不看版： 1.技术：端侧模型短期能力有限，端云结合是长期状态 ● 手机端侧大模型瓶颈排序： 电池容量和发热> 芯片计算速度> 8G+内存是最低要求> 内存读写速度 ●~1B量级模型能力有限，性能提升空间不乐观 ●手机端侧模型有实际价值 -> ~10B模型塞到手机里 -> 估计3~4年 ●云+端混合将是长期主流： ○ 端侧模型 + 云上模型 的 配合能力 将是核心技术点之一 ○ 从用户价值看，端侧模型并 不是必要路径 ○ 端 ………………………………