国内首个！百度成功点亮昆仑芯三代万卡集群，将于近日点亮3万卡集群

文章预览

近日，百度智能云成功点亮昆仑芯三代万卡集群，这也是国内首个正式点亮的自研万卡集群。百度智能云将进一步点亮3万卡集群。 国产昆仑芯万卡集群以及未来三万卡集群的建设，从硬件到软件，技术挑战是全方位的。而24年9月升级的百度百舸AI异构计算平台4.0，围绕落地大模型全旅程的算力需求，在集群创建、开发实验、模型训练、模型推理四大方面，能为企业提供“多、快、稳、省”的AI基础设施，在万卡集群的建设中发挥了至关重要的作用。 首先， 突破硬件扩展性瓶颈 ，如卡间互联的拓扑限制，避免通信带宽成为瓶颈；同时，围绕芯片及集群功耗， 基于万卡规模常规方案功耗可达十兆瓦或更高 ，采用创新性散热方案，从而解决万卡集群的能效与散热问题；完善模型的分布式训练优化，采用高效并行化任务切分策略， 训练主流开源模型的 ………………………………