拿什么来遏制失控的AI功耗？

文章预览

为什么英伟达CEO黄仁勋不断地强调自家算力芯片的算力功耗比和TCO？为什么OpenAI的CEO奥特曼宣称需要融资几万亿美元，其中很大一部分预算是用来建电站？ 主要是因为现在AI算力集群是十足的吞电狂魔。比如说英伟达NVL72一个机架的功耗就超过200KW。什么概念？一台家用空调额定功率大概1KW，一个NVL72机架大小相当于一台家用单开门冰箱，但其功率超过200KW，就相当于一台家用单开门冰箱里面塞下200台空调。 数据中心、人工智能（AI）和加密货币领域的电力消耗预计在2026年可能会较2023年翻倍，达到1000太瓦时（TWh），这大约相当于日本的电力消耗总量。 早在若干年前，网友就把英伟达的显卡芯片戏称为核弹，就是因为这个原因。随着GPU用于AI计算并持续迭代升级，AI算力芯片的功耗较几年前又增大了数倍乃至十倍。现代单颗AI算力芯片拥有数百亿个晶 ………………………………