文章预览
生成式 AI 时代，大模型除了继续在云端突破 Scaling law 之外，也正在探索另一个重要的落地方向 —— 端侧。通过量化、蒸馏、剪枝等压缩技术，「瘦身」后的大模型可以适应端侧性能要求，在包括手机、 PC 、机器人、 VR 眼镜、耳机、汽车智能座舱等广泛设备上进行本地部署运行，将 AI+ 硬件的融合带入新的发展阶段。随之而来，端侧大模型能力的引入不仅为用户提供个性化 AI 体验，还能进一步拓展 AI 应用场景的广度与深度。 在 AI 应用落地需求日益增长的当下，企业应如何把握端侧大模型的发展机遇，探索新的业务模式和应用场景，推动产品和服务的创新，满足市场和客户的新需求？研发人员如何提升技术水平，学习端侧大模型在不同场景下的应用和解决方案？基于此， 机器之心策划了「端侧 AI 大模型开发与应用实践」技术论坛，
………………………………
