三大芯片巨头，抢进CPO

文章预览

👆如果您希望可以时常见面，欢迎标星🌟收藏哦~ 过去二十多年，计算性能的提升受益于摩尔定律的扩展，性能增长达到了60000倍，如图1所示。然而，同一时期内，I/O带宽仅增长了30倍。当下，如何将高带宽互连扩展到单个机架之外是NVIDIA以及其他厂商都面临的必然挑战。据行业分析公司LightCounting的分析指出：将 GPU集群从36-72个芯片扩展到500-1000个芯片是加速人工智能训练的最佳选择；在未来3年内，即使是推理集群也可能需要多达 1,000 个GPU才能支持更大的模型。共封装光学器件(CPO，Co-Packaged Optics)可能是在4-8机架系统中提供数万个高速互连器件的唯一选择。 图1：不同代际互连和存储的带宽（BW）以及硬件（HW）峰值FLOPS的扩展。值得注意的是，互连带宽增长的速度远低于硬件FLOPS。（来源：IBM论文，arXiv:2412.06570） 目前，数据中心在数据传输中已广 ………………………………