AI推理升温，谁在分食算力“蛋糕”？ | ToB产业观察

文章预览

▎ AI算力，不只有英伟达。 作者｜杨丽 编辑｜盖虹达 本文首发于钛媒体APP “为解决AI算力供给不足，除了选择英伟达，我们也可以用CPU芯片实现AI推理。”国内某云计算大厂基础设施负责人在年初一次技术分享会上表达。 该负责人所指的AI推理芯片市场需求量正逐年增长。VerifiedMarketResearch报告显示，2023年人工智能推理芯片市场规模为158亿美元，预计到2030年将达到906亿美元，在2024-2030年预测期内的复合年增长率为22.6%。 今年早些时候，英伟达财报会上也有表示，公司全年数据中心里已经有40%的收入来自推理业务。 分析其中缘由，除了边缘计算和物联网设备驱动外，更重要的是AI应用急剧扩张，相较于需要大规模算力的AI（大模型）训练场景，AI推理对算力性能要求没有AI训练严苛，主要是满足低功耗和实时处理的需求。但在部署在实际终端场景中 ………………………………