英伟达展望未来 AI 加速器：集成硅光子 I/O，3D 垂直堆叠 DRAM 内存

文章预览

本文转自：IT之家 作者：溯波 IT之家 12 月 10 日消息，2024 IEEE IEDM 国际电子设备会议目前正在美国加州旧金山举行。据分析师 Ian Cutress 的 X 平台动态，英伟达在本次学术会议上分享了有关未来 AI 加速器的构想。 英伟达认为未来整个 AI 加速器复合体将位于大面积先进封装基板之上， 采用垂直供电，集成硅光子 I/O 器件，GPU 采用多模块设计，3D 垂直堆叠 DRAM 内存，并在模块内直接整合冷板 。 IT之家注： Ian Cutress 还提到了硅光子中介层，但相关内容不在其分享的图片中。 在英伟达给出的模型中，每个 AI 加速器复合体包含 4 个 GPU 模块，每个 GPU 模块与 6 个小型 DRAM 内存模块垂直连接并与 3 组硅光子 I/O 器件配对。 硅光子 I/O 可实现超越现有电气 I/O 的带宽与能效表现，是目前先进工艺的重要发展方向；3D 垂直堆叠的 DRAM 内存较目前的 2.5D HBM 方案拥有 ………………………………