SambaNova发布公司首款万亿参数AI芯片

文章预览

👆如果您希望可以时常见面，欢迎标星🌟收藏哦~ 来源：内容来自servethehome，谢谢。 在 Hot Chips 2024 上，主题显然是人工智能。SambaNova SN40L RDU是该公司针对万亿参数规模人工智能模型时代的首款设计。 新的 SambaNova SN40L “Cerulean” 架构。这是一款 5nm TSMC 芯片，具有三层内存，非常不错。它还是一种数据流架构，旨在用作训练和推理芯片。 Sambanova SN40L 热门芯片 2024_Page_02 三层内存分别是 520MB 的片上 SRAM。然后是 64GB 的 HBM。然后是额外的 DDR 内存作为容量层。SambaNova 在这里展示了一个 16 插槽系统，以获得 8GB 的片上 SRAM 和 1TB 的 HBM 等功能。 Sambanova SN40L 热门芯片 2024_Page_03 以下是 SambaNova 图块中的 1040 个计算和内存单元及其网格交换机。 Sambanova SN40L 热门芯片 2024_Page_04 这是计算单元。它没有传统的提取/解码等执行单元，而是具有一系列静态阶段。PCU ………………………………