文章预览
如何下载资料? 微信扫下方二维码加入星球平台 【老会员续费特惠】 今天分享的是:AI专题:Scale up与Scaleout组网变化趋势如何看? 报告共计:24页 《AI深度洞察系列报告(三):Scale up与Scale out组网变化趋势如何看?》由兴业证券发布,主要探讨了AI组网结构的变化趋势及其对算力产业链投资机会的影响。 - Scale up: - 带宽提升:AI大模型训练采用分布式并行训练架构,其中张量并行对通信要求最高,随着模型规模增加,服务器内带宽需求快速提升,建立更大带宽的超节点成为趋势。 - 规模决定:超节点规模由GPU或云厂商设计决定,英伟达超节点规模不断升级,谷歌通过做大超节点Pod规模降低DCN带宽要求,UALink联盟也在推动超节点规模提升。 - 互联密度:Scale up升级趋势为做大超节点规模,英伟达采用NVL GB200方案和NVLINK协议提升机柜内部互联带宽,
………………………………