当大模型升级速度变缓，AI Infra 创业还是一门「好生意」吗？

主要观点总结

本文主要介绍了AI Infra格局呈现两个极端：海外被巨头垄断，国内过于分散的现状。文章提及了推理布局、海内外差异、GPU异构和云厂竞争等相关内容。文章指出AI Infra创业需要解决模型与芯片深度适配的问题，同时面临海内外不同的市场环境挑战。行业内的观点碰撞摩擦，但无论如何，国产算力问题的解决是底层关键。

关键观点总结

关键观点1: AI Infra格局呈现两个极端，海外被巨头垄断，国内过于分散。

海外软件层创业相对容易，因为有成熟的订阅软件付费方法和统一的市场。而国内芯片格局分散，争夺技术高地，软件生态相对较弱。

关键观点2: 推理布局和海内外差异

国内大模型的发展推动推理需求爆发，MaaS平台等布局受到关注。海内外在AI Infra方面的差异导致创业面临不同的挑战和机遇。

关键观点3: GPU异构问题

GPU异构是芯片产能不足现状下的妥协。长期来说，单一方式是最高效的解决方案。不同芯片架构的异构训练存在性能损耗和效率问题。

关键观点4: 云厂竞争与创企机遇

云厂和创企在AI Infra领域存在差异，云厂更擅长后端和资源池化，对国产芯片适配能力有限。创企在优化算力资源、支持国产芯片等方面有发展空间。

文章预览

AI Infra 格局呈现两个极端：海外被巨头垄断，而国内则过于分散。 作者丨朱可轩 编辑丨陈彩娴 时至今日，如果说清华系撑起了中国大模型创业的半壁江山，那 AI Infra 这条赛道绝对是清华系「上阵师徒兵」的又一波创业豪赌： 媒体所实验室孵化的清昂智能、高性能计算机研究中心牵头的清程极智、NICS-EFC 实验室孕育出的无问芯穹......AI Infra 赛道的明星创企几乎都来自清华各大实验室，而硅基流动和潞晨科技的创始人袁进辉和尤洋也均属「清华代表队」。 当 前，在这层创业要解决的问题也比较明确，主要就是 面向上下游，把各类模型同芯片深度适配，一方面减少算力资源闲置现象，另一方面则实现模型应用的提速降本。 不过，作为中间层，模型、应用和硬件层正处在瞬息万变之间，这意味着 AI Infra 的突破方向也在随之调整，值此之际，该方向的 ………………………………