专栏名称: 麻省理工科技评论
《麻省理工科技评论》杂志官方微博 源自麻省理工学院,关注即将商业化的创新,聚焦即将资本化的创业。
今天看啥  ›  专栏  ›  麻省理工科技评论

【最高降低大模型能耗95%,科学家提出优化Transformer-20241017151417

麻省理工科技评论  · 微博  ·  · 2024-10-17 15:14

文章预览

2024-10-17 15:14 本条微博链接 【最高降低大模型能耗95%,科学家提出优化Transformer方法,大模型有望兼具低能耗和高性能】 近期,美国 #麻省理工学院# 研究科学家、初创公司 BitEnergy AI 创始人罗鸿胤和合作者提出了一种名为线性复杂度乘法(L-Mul,linear-complexity multiplication)的算法。 L-Mul 的最大特点是用整数加法运算逼近浮点数乘法,通过改变数值计算的方式让 #大模型# 的计算精度大幅度降低。 用这种“偷懒式计算”可 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览