华为云上线“核弹级产品”

文章预览

近日，华为公布了AI基础设施架构的新进展，推出CloudMatrix 384超节点，并已在芜湖数据中心规模上线。《科创板日报》了解到， 华为云CloudMatrix384超节点今年上半年将有数万规模的上线。华为内部人士称其为核弹级的产品，或将彻底终结算力焦虑。未来，CloudMatrix超节点可以构建超过万片的大集群来提供算力 。 2024年3月，英伟达率先发布了NVL72超节点，可以把72张训练卡组成一个超节点， 为万亿参数的大型语言模型推理提供了30倍实时速度提升。而这次发布的 华为CloudMatrix 384更进一步，以384张昇腾算力卡组成一个超节点，在目前已商用的超节点中单体规模最大。 据悉，华为CloudMatrix 384在规模、性能和可靠性上对标英伟达NVL72，基于CloudMatrix的昇腾AI云服务，大模型训练作业可稳定运行40天，互联带宽断点恢复在10秒级别。在互联带宽上，超节点网络交 ………………………………