为什么说算力的尽头是电力？

文章预览

当今，算力成为推动科技进步和社会发展的关键力量。然而，算力的实现并非毫无代价，其背后依赖着大量的计算设备和服务器。这些设备在运行过程中会消耗巨额的能量。无论是数据中心里的超级计算机，还是我们日常使用的智能手机、电脑等，当进行复杂的计算和数据处理时，都离不开电力的持续稳定供应。 算力的尽头是电力？ 例如， 在全球超级计算机Top 500榜单中排名前十的超级计算机，每小时消耗电量超过2万度，与一座小型城镇的耗电量相当。 再 以训练 AI 大模型为例， 使用的主流算力芯片功耗较高，成千上万台服务器和芯片昼夜不停地运转会消耗大量电力： 据估计，训练 GPT-3使用了大约128.7万度的电力。GPT-3有1750亿个参数，训练过程大约需要3.14×10^23次浮点运算（flops）。 ChatGPT 响应一个请求平均耗电2.9瓦时，每天响应约2亿个需求消 ………………………………