专栏名称: SSDFans
AI+IOT+闪存,万物存储、万物智能、万物互联的闪存2.0时代即将到来,你,准备好了吗?
今天看啥  ›  专栏  ›  SSDFans

光子互联未来:Celestial AI的连接革命!

SSDFans  · 公众号  ·  · 2024-10-29 08:01

文章预览

点击蓝字 关注我们 Celestial AI公司在其芯片中采用了一种热稳定的光学调制器,功耗数百瓦。这种设计消除了对数字信号处理器(DSP)的需求,因为其具有高信噪比(SNR)、低比特错误率(BER),光学元件实现了电子元件的优势。 来源:Celestial AI Celestial的光互联模块(Photonic Fabric Module)拥有2.07TB的内存容量,并且提供7.2Tbps的带宽,延迟仅为100纳秒。该公司的设备包含916个模块,能够支持高达115Tbps的网络交换,为后端/扩展AI提供33Tb的内存容量。 在光纤的另一端,是一个光学芯片,其提供的带宽是CPO(Chiplet Process Optical)芯片的3.6倍。它比HBM堆叠所需的空间更少。 一个连接到光互联设备的16-XPU系统能够处理具有10T参数的模型!  来源:Celestial AI 对于推理而言,一个传统的AI服务器,配备3TB的HBM,只会有大约1.2Tb的可用内存。而这个方案的16-XPU系统 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览