今天看啥  ›  专栏  ›  机器之心

AI成为「耗电大户」,除了新能源,还需要芯片创新

机器之心  · 公众号  · AI  · 2024-08-17 12:32
    

文章预览

选自Communications of the ACM 作者:R. Colin Johnson 机器之心编译 机器之心编辑部 人工智能的普及造成了一场能源危机,但并不是无法解决。 人工智能(AI)的爆炸式增长促使科技巨头(包括 Google、Meta、亚马逊和微软等)开始构建超大规模数据中心,这些数据中心需要的电力非常多 —— 是以千兆瓦计算而不是兆瓦。有分析师表示,这些巨型数据中心使用现有的半导体技术来挑战美国老化的电网基础设施,以满足其能源消耗需求。 例如,高盛估计仅对 ChatGPT 的一次查询所消耗的数据中心电能就比语音识别等传统人工智能功能多 10 倍,因此我们需要更强大的数据中心来支持这种需求。 如今,生成式 AI(GenAI)处于爆发阶段,其参数量基本以亿计算。但是,在运行时,例如基于 Transformer 的这类模型无法像单词识别那样被压缩成小巧、快速的推理引擎。原因 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览