文章预览
【点击】 加入大模型技术交流群 一、Nvlink和NVSwitch相关的概念 1、英伟达官网的定义如下： 2、 个人总结： Nvlink是英伟达的芯片互联技术，通常用于GPU之间或者GPU到CPU。 Nv Switch是基于Nvlink技术的芯片或者类似交换机的设备。 在主机内部NvSwitch就是芯片，跨主机互联时NVSwitch就是搭载Nv switch芯片的独立设备。 3、 历代Nvlink的版本变化 二、Nvlink和PCIe两种互联技术对比 Nvidia GPU互联技术最新的是NVLink 5.0。与前代4.0相比通道数目不变，速率翻倍至1.8TB/s，PCIe目前最新的版本是Gen5，作为计算机当中最通用的互联技术，和Nvlink相比差距有多大呢？ NVLink5.0 1、每条链路单向50GB/s 2、双向是2倍关系，100GB/s 3、总带宽：18x100=1.8TB/s PCIe 5.0 1、每条链路单向32Gb/s，换算成大B需要除以8，为4GB/s 2、双向是2倍关系，8GB/s 3、总带宽：16x8=128GB/s， 因为PCIe GPU卡是x16的Lane PCIe 5.0
………………………………
