清华大学汪玉：大模型能效提升，有几条必经之路？

文章预览

演讲嘉宾 | 汪玉 清华大学电子工程系教授、系主任 & 无问芯穹发起人 审核｜傅宇琪 褚杏娟 策划 | 蔡芳芳 进入生成式 AI 时代，应用侧日益高涨的服务需求给基础设施的算力规模提出了巨大的挑战。与此同时，不断扩张的计算设施对能源供应和生态环境的压力也在飞速增长，迫使产业采取多种手段提升从芯片到集群，再到整个数据中心生态的能耗效率。SemiAnalysis 不久前发布的一篇报告就指出，能耗水平将成为 AI 计算产业的核心竞争力要素，对整个产业的发展起到关键作用。 本篇内容根据 2024 年 5 月举办的 AICon 全球人工智能开发与应用大会暨大模型应用生态展上，清华大学电子工程系教授、系主任 & 无问芯穹发起人汪玉围绕生成式 AI 时代的能效讨论发表了题为《可持续的智能：大模型高能效系统前瞻》的演讲编写、更新而来。 InfoQ ………………………………