可以取代HBM的内存技术？AI性能加速100倍，功耗降低99%

文章预览

3D内存芯片是通过3D封装技术，将多层DRAM堆叠而成的新型内存，其中混合内存立方体（Hybrid Memory Cube，HMC）和高带宽内存（High Bandwidth Memory，HBM）是两种典型的3D内存技术。 而大模型时代带来的算力需求爆发式增长，使英伟达GPU十分依赖于HBM，因为这种芯片可解决传统冯·诺依曼架构中处理器与内存之间的数据传输问题，在大算力场景几乎无可替代。 但在最近，NEO Semiconductor宣布将开发一款3D X-AI芯片，旨在取代现有HBM芯片并解决数据总线瓶颈。 据了解，单个3D X-AI芯片包含300层3D DRAM单元，内存密度提升8倍，容量为128 Gb，同时还有一层包含8,000个神经元的神经电路，可在3D内存中执行AI处理。据NEO估计，每个芯片可支持高达10 TB/s的AI处理吞吐量，使用12个3D X-AI芯片与HBM封装堆叠可实现120 TB/s的处理吞吐量，从而将性能提高100倍。 根据NEO Semiconductor创始 ………………………………