专栏名称: EETOP
EETOP电子网(中国电子顶级开发网)是国内最顶级的电子行业工程师社区,涉及:嵌入式、智能硬件、半导体集成电路设计及制造等。 为您分享论坛精华内容、行业最新资讯、产品及技术 。 网址:www.eetop.cn bbs.eetop.cn
今天看啥  ›  专栏  ›  EETOP

华人科学家主导!AI新算法问世,能耗狂降95%,GPU或面临重新设计!

EETOP  · 公众号  · 硬件  · 2024-10-18 11:36

主要观点总结

文章介绍了美国麻省理工学院研究科学家罗鸿胤及其团队提出的线性复杂度乘法算法,该算法能大幅减少运行AI应用所需的计算量,减少高达95%的电力需求。文章还提到罗鸿胤在AI效率和推理能力方向的研究,以及他关于可编程阵列逻辑平台的未来研究计划。今晚19:30有国产高速时域仪器技术的直播讲解。

关键观点总结

关键观点1: 线性复杂度乘法算法介绍

罗鸿胤团队提出的线性复杂度乘法算法使用整数加法来近似浮点乘法,大幅减少AI应用的能源需求。

关键观点2: AI应用能源需求和成本问题

随着AI应用的使用量急剧增加,能源需求和成本问题变得严重,例如ChatGPT等大型语言模型需要大量的计算能力和电力。

关键观点3: 罗鸿胤及其研究团队的背景

罗鸿胤在清华大学获得学士学位,并在麻省理工学院获得博士学位。他主要关注AI的效率和推理能力,并已经取得了一些重要成果。

关键观点4: 直播报名信息

今晚19:30有国产高速时域仪器技术的直播讲解,适用于高速互联、高速芯片、数据中心等领域。


文章预览

直播报名(今晚19:30)-国产高速时域仪器技术讲解 近期,美国麻省理工学院研究科学家、初创公司 BitEnergy AI 创始人罗鸿胤和合作者提出了一种名为线性复杂度乘法(L-Mul,linear-complexity multiplication)的算法, 可以将 AI 应用的能源需求减少 95% 。 ( 论文:https://arxiv.org/abs/2410.00907) 随着 AI 应用成为主流,其使用量急剧增加,导致能源需求和成本显着增加。ChatGPT 等 LLM 需要大量的计算能力,这反过来意味着运行它们需要大量的电力。 仅举一个例子,ChatGPT 现在每天需要大约 564 MWh(56.4万度),足以为 18,000 个美国家庭供电。随着科学的不断进步和此类应用变得越来越流行,批评者认为 AI 应用可能在短短几年内每年使用约 100 TWh(1亿MWh),与比特币挖矿操作相当。 在这项新工作中,BitEnergy AI 的团队声称他们已经找到了一种方法,可以大幅减少运行 AI 应用所 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览