国产GPU：媲美国际！

文章预览

6月14日，摩尔线程官方宣布：GPU性能新突破！ 媲美国际水准！ 2024年5月份与智谱AI开展了新一轮GPU大模型适配、性能测试中（包括大模型推理、基于夸娥（KUAE）千卡智算集群的大模型预训练），国产GPU的性能已可媲美国际水准！ 测试用相关大模型来自智谱AI基座大模型及其开源版本。 测试结果表明，在推理方面，摩尔线程自研全功能GPU显著优于基准对比产品RTX 3090和RTX 4090，其中全部测试用例中优于RTX 3090，在多batch下优于RTX 4090。 在训练方面，摩尔线程夸娥千卡智算集群的训练精度与A100集群相比，误差在1％以内，而集群性能扩展系数超过90％，模型算力利用率（MFU）与A100集群相当。 摩尔线程原文如下： 以大模型为代表的新一代人工智能技术是引领新一轮科技革命和产业变革的战略性技术和重要驱动力量，随着对算力需求的日益高涨，人工智能 ………………………………