ASIC专家交流纪要

文章预览

GPU与定制AI ASIC芯片 对比： 专家指出，虽然图形处理器（GPU）非常适用于通用的高计算量应用，但定制AI ASIC芯片更适合AI工作负载。这是因为AI ASIC的硅片设计采用了全新方法，其内存架构能够解决GPU中可能出现的挑战，并且它们能够在通用性和特异性之间取得平衡。AI工作负载涉及复杂的多维矩阵乘法，而AI ASIC对此进行了优化。 AI加速器发展方向： AI加速器的开发正在三个领域推进：超大规模数据中心运营商（如谷歌，自2015年开始开发张量处理单元TPU）、新兴的无晶圆厂半导体公司（如Tenstorrent、Groq和Cerebras，采用全新的硅片设计方法）以及老牌半导体公司（如博通和美满电子）。AI加速器的采用曲线将比GPU快得多，并且已有证据表明其性能远超GPU（例如，d-Matrix每秒可处理多达6万个标记，Groq在近期性能基准测试中比英伟达GPU快10-15倍）。异构计 ………………………………