主要观点总结
文章讨论了华为、联想、星纪魅族等头部厂商将系统级智能体接入DeepSeek-R1的情况，分析了在智能终端设备上直接部署LLMs所面临的难题和挑战，包括计算能力、内存容量、算力等方面的限制。文章还提及了全球设备端边缘人工智能市场规模的增长趋势以及直接在终端设备上部署LLMs的优势。同时，文章介绍了推进端侧模型发展的相关工作和技术，包括模型压缩、量化等技术以及定制端侧模型的重要性。
关键观点总结
关键观点1: 华为、联想、星纪魅族等厂商接入DeepSeek-R1
头部厂商将系统级智能体接入DeepSeek-R1，但智能终端设备实际体验并不佳，离真正的智能还有很远的距离。
关键观点2: 全球设备端边缘人工智能市场规模增长
全球设备端边缘人工智能市场规模正在以25.9%的复合年增长率增长，表明边缘设备上直接部署人工智能的需求正在增加。
关键观点3: 在终端设备上直接部署LLMs的难题和挑战
整合运行计算密集型的LLMs在边缘设备上面临非常大的难题，包括计算能力、内存容量、算力等的限制。其中，端侧算力不足是核心难题。
关键观点4: 端侧模型的发展趋势
端侧模型成为研究的爆发趋势方向，现有的端侧模型通常由更高一级的基础大模型蒸馏而来。但定制端侧模型在实际场景中的应用更为关键。
关键观点5: 推进端侧模型发展的技术
包括模型压缩、量化等技术正在让端侧模型变得更强。同时，定制端侧模型的重要性也在不断提高。
文章预览
本文来自PRO会员通讯内容，文末关注「机器之心PRO会员」，查看更多专题解读。 近期，华为、联想、星纪魅族等头部厂商陆续宣布了其系统级智能体接入 DeepSeek-R1。尽管 LLM 逐渐朝着人类思考的方式靠近，但接入 AI 大模型的智能终端设备实际体验并不佳，离真正的智能还有很远的距离。 传统的 LLMs 主要部署在云服务器上，但存在着延迟、数据隐私安全和联网等等局限性。而随着智能手机、汽车和可穿戴设备等设备的智能化趋势，能在边缘设备上直接部署 LLMs 成为关键需求。 目录 01. DeepSeek 都这么强了，为什么端侧的智能硬件还是不太聪明的样子？ DeepSeek 都这么强了，为什么智能设备还是不太聪明的样子？ 在端侧设备上直接部署运行 LLMs 有哪些难题？ 为什么终端厂商又非要把 LLMs 放在端侧运行？ 02. 端侧小模型正在变强吗？能在端侧运行的小
………………………………
