专栏名称: DeepTech深科技
“DeepTech深科技”是与麻省理工科技评论官方独家合作的一个新科技内容品牌。我们专注于关注三个方面:1、基于科学的发现;2、真正的科技创新;3、深科技应用的创新。
今天看啥  ›  专栏  ›  DeepTech深科技

背靠英伟达的初创公司Enfabrica推出全球最快GPU网络接口控制器芯片,再获1.15亿美元融资

DeepTech深科技  · 公众号  · 科技媒体  · 2024-11-21 16:49
    

文章预览

要提高算力,我们通常首先想到提高单个芯片的处理速度,但实际上,芯片之间的通信速度同样关键。在计算机网络通信中,带宽和延迟是两个关键衡量指标,而对于 AI 网络来说,这一点同样适用。 对于训练上千亿甚至万亿参数的大规模模型来说,单个 GPU 的处理能力已经显得微不足道,计算任务往往需要由大型显卡集群协同完成。 然而,当前 GPU 内存容量和性能正在迅速增长,但输入/输出(I/O)性能的增长却相对滞后,这成了 AI 算力提升的重要瓶颈,导致了大量计算资源未被充分利用,造成了资源浪费。 图丨网络 I/O 性能跟不上 GPU 计算性能(来源: Enfabrica ) 由于传统 PCIe 协议的发展依然落后于时代需求, 英伟达 转而开发专有接口协议 NVLink 来应对这一问题,也借此掌控了行业内的话语权。 也有英特尔、AMD、谷歌、微软等公司开发行业开放 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览