​从UALink近期发展再看GPU Scale Up的互连方向

文章预览

▲  点击上方 蓝字 关注我们，不错过任何一篇干货文章！ GPU的Scale Up互连成为炙手可热的话题，在2024年涌现了众多相关的行业讨论。站在阿里云的视角，什么样的技术以及生态才能满足云上智算集群的发展？为什么采用全新的Scale Up设计而不复用当前的以太网和RDMA技术呢？本文借着行业内的一些事件，对GPU超节点的Scale up互连的技术方向观点进行分享。             在GPU算力架构发展的历程和趋势中，我们意识到大模型的训练推理对显存容量以及带宽有不断增长的诉求，传统的GPU单机8卡方案已经不能满足业务发展的需要，更多卡组成超节点并具备大容量显存和低延的共享的解决方案才能满足大模型的需求。阿里云对行业技术方向进行评估后，于今年9月份发布了Alink Sytem开放生态和AI Infra 2.0服务器系统，其中底层互连协议部分兼容国际开放标准UAL ………………………………