产业之声 | 为AI供电-超万卡GPU算力集群的算电协同与零碳发展

文章预览

本文作者 阿里研究院AI产业研究中心：杨军、周搏、袁媛 阿里云采购部碳管理与能源采购团队：毛宏举、黄光舟 阿里云基础设施事业部：王超、陆荣鑫 随着AI大模型技术的飞速发展，模型的参数规模和多模态能力不断提升，带来了对计算需求的快速增长，推动了万卡以上GPU算力集群的建设浪潮。GPU集群正从万卡向十万卡、百万卡的规模迈进， 同时伴随着对能源消耗的快速增长 ，带来了GPU集群算电协同和零碳发展的新挑战。 我们在上篇探讨了GPU算力集群能源的全球挑战和中国可采取的应对方案（ 《智能背后的电能保障：GPU算力集群能源挑战的全球视角和中国应对》 ），本文将探讨如何借助AI大模型的发展契机，从优化模型训练和推理的计算效率、降低GPU集群核心软硬件的能耗、提升GPU集群的利用率、使用更多的可再生能源和算电双向优化调度等 ………………………………