轻量级模型密集发布，未来端侧AI将带动创新主线

文章预览

2024.07. 23 本文字数：2541，阅读时长大约4.5分钟 导读 ： 如今在技术发展推动下，端侧AI将大模型科技生态的拼图拼得更完整。 作者 | 第一财经  吕倩 近日，OpenAI 发布新款轻量级大模型GPT-4o mini，引发行业对轻量级模型与端侧模型落地的讨论。 2024年是端侧模型落地应用的年份，多家企业对记者表示，今年重点放在应用落地、商业化变现方面。申万菱信基金经理廖裕舟表示， OpenAI推出的GPT-4o或标志着AI正式走向端侧，走进用户，这使得AI应用落地变得更加清晰可见。 逻辑上，轻量级模型和端侧模型都旨在降低模型的计算复杂度和存储需求，以便在资源受限的设备上高效运行。只是在实现方法上，轻量化模型通常通过模型剪枝、量化、知识蒸馏等技术来减少模型大小和提高运行效率。端侧模型侧重于将这些轻量化技术应用于终端设备上，以实现快速 ………………………………