英伟达新品撬动万亿边缘AI市场,中国企业能否弯道超车?

文章预览

作者： 彭昭（智次方创始人、云和资本联合创始合伙人） 物联网智库 原创 这是我的第354篇专栏文章。 前几篇文章，我们不断探讨小模型（SLM）在端侧和边缘侧的崛起。现在，边缘侧小模型已然成为不可忽视的发展趋势。 AI模型犹如软件，需要硬件作为载体方能发挥作用。 面对边缘AI的迅猛发展，我们不禁要问：边缘硬件是否已经做好准备了？ 生成式AI模型要落地应用，离不开边缘硬件的支撑。对开发者和最终用户而言，边缘硬件就是驾驭AI的利器。 一个优秀的硬件“工具”，如同一柄削铁如泥的神兵，若能遇到善加利用的主人，定能所向披靡，威力惊人。 如今，边缘设备的算力与日俱增，从过去的几个TOPS@INT8（每秒可执行数兆次八位整数运算），跃升至数十TOPS的量级。这意味着边缘硬件即使在断网状态下，也能独立完成SLM的推理任务，大大拓 ………………………………