今天看啥  ›  专栏  ›  有限次重复博弈

AI ASIC 2.0:潜在赢家?

有限次重复博弈  · 公众号  ·  · 2024-12-19 12:57
    

文章预览

AI ASIC能否成为英伟达GPU可⾏的替代品? 我们首先看看,ASIC相对于GPU,能够提供什么独特的优势。 * ASIC为特定任务(如 AI 推理)高度优化,规模化下成本有显著优势。同时能够在固定计算需求下实现超高性能和极低延迟。 * 功耗显著低于 GPU,单位计算能效比(Performance-per-Watt)高。 * 效率更高:例如,Google TPU 在执行大规模矩阵运算和模型推理时的效率远高于GPU。 和比特币的ASIC类似,AI ASIC专款专用,不包含多余的硬件功能,减少了晶体管数量,降 低了功耗和芯片生产成本。在部署量足够大时,规模效应带来的成本优势显著。 在这里,我多提一嘴,GPU翻倍增加的功耗(H100 700瓦到GB200 1100瓦的热设计)给设计实现和配套的设施带来了极大的挑战,甚至因为GPU过热,客户甚至需要大幅度采用非技术手段缩减其他部件的热设计功耗,比如说大规模使用S ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览