专栏名称: 腾讯研究院
【腾讯研究院 ★ Tencent Research Institute】 网聚智慧,连接世界!网罗互联网前沿理念、传递互联网发展声音、汇集互联网研究成果、推动互联网法治进程。
今天看啥  ›  专栏  ›  腾讯研究院

苹果能引领端侧AI时代吗?

腾讯研究院  · 公众号  · 科技媒体  · 2024-09-10 17:20
    

主要观点总结

本文主要探讨了苹果新发布的iPhone 16中的端侧大模型技术,包括其技术特点、价值评价、发展现状和未来趋势等。文章还涉及端侧模型与云上模型的应用场景展望以及AI Agent的发展情况。

关键观点总结

关键观点1: 苹果新发布的iPhone 16的端侧大模型技术

iPhone 16采用了端侧模型技术,结合AI Intelligence,为用户带来更丰富的智能体验。该技术包括参数规模、推理速度、能耗等方面的优化,并搭载了更大规模的语言模型和多模态生成等应用。

关键观点2: 端侧模型的成熟度评价

从参数规模、推理速度、能耗等方面对端侧模型的成熟度进行了评价。指出目前端侧模型在能力、稳定性等方面与更大规模模型存在差距,并且需要搭配云上模型实现更高级的功能。

关键观点3: 端侧模型和云上模型的应用场景展望

讨论了端侧模型和云上模型在不同应用场景下的优势和局限。指出端侧模型适用于离线任务、网络不佳情况下的效果提升、本地数据访问等场景,而云上模型则适合处理复杂任务、需要大规模算力和数据资源的情况。

关键观点4: AI Agent的发展情况

介绍了AI Agent的发展现状和未来趋势,包括其作为大模型能力的扩充、记忆能力的重要性、以及在不同发展阶段的特点和挑战。指出AI Agent的发展需要多种技术的组合创新,并且距离实现大学生智能的Agent还有一定距离。


文章预览

腾讯研究院大模型研究小分队x“普通人的AI自由”公众号联合研究 北京时间9月10日凌晨,苹果正式发布了iPhone 16,这是苹果第一款真正意义上的 AI iPhone。Apple Intelligence采用“端侧大模型+云端大模型”的方式,将为用户带来更丰富的智能体验。而这仅仅是端侧智能的开始,未来我们可以想象,一个由大模型带来的移动智能生态正在缓缓打开。 太长不看版: 1.技术:端侧模型短期能力有限,端云结合是长期状态 ●手机大模型的瓶颈排序: ○电池容量和发热 ○芯片计算速度 ○现有架构下,8G+内存是最低要求 ○内存读写速度可能需要进一步技术突破 ●~1B量级模型能力有限,性能提升空间不乐观 ●手机端侧模型有实际价值 -> ~10B模型塞到手机里 -> 估计3~4年 ●云+端混合将是长期主流 ○端侧模型 + 云上模型 的配合能力将是核心技术点之一 ○从用户价值 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览