中国企业加速AI部署，昇腾大EP方案成首选，H20遇挑战

主要观点总结

本文介绍了DeepSeek技术引发的人工智能热潮，企业推理需求的急剧扩大，以及在这个过程中千行百业拥抱DeepSeek的情况。DeepSeek技术的出现带动了AI部署的发展，推动产业进入一个新阶段。同时，DeepSeek开源周后，推理集群的选择和技术发展也备受关注。文章还介绍了昇腾大EP方案的技术特点和对企业AI部署的支持情况。

关键观点总结

关键观点1: DeepSeek技术引发的人工智能热潮

DeepSeek的爆火，让政务、金融、教育、医疗等千行百业掀起尝鲜浪潮。一些企业从试用阶段快速转向推理集群部署，对算力扩容的需求急剧扩大。

关键观点2: 企业推理需求激增

随着DeepSeek模型的应用，企业推理需求急剧扩大。企业开始探讨算力扩容问题，寻求支撑高并发、低时延的大规模专家并行推理集群解决方案。

关键观点3: DeepSeek开源周后，推理集群的技术发展

DeepSeek开源周后，推理集群的选择和技术发展备受关注。昇腾和科大讯飞联合团队率先实现了8机64卡的跨节点专家并行推理集群。此外，DeepSeek的推理集群贴合小专家MoE架构，降低了对高算力单卡的依赖。

关键观点4: 昇腾大EP方案的优势

昇腾大EP方案通过技术创新实现了高效并行计算，为AI推理提供了参考之路。该方案解决了大EP方案中负载均衡和卡间通信的挑战，提高了推理集群的吞吐量和降低了时延。

关键观点5: 英伟达H20的挑战

英伟达H20因算力短板和出口管制等不确定因素，面临挑战。在DeepSeek采用的MoE架构下，H20在预填充阶段和解码阶段都表现不佳，无法充分发挥DeepSeek专家并行机制带来的高吞吐优势。

文章预览

仅仅不到30天，一些企业就已走过DeepSeek尝鲜阶段，从一体机，急速转向推理集群。 ‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍ 文｜牛慧 ‍ ‍ ‍ DeepSeek爆火之后，进展之快，让业界应接不暇。   春节开工后首月，政务、金融、教育、医疗等千行百业掀起尝鲜浪潮。根据爱分析的统计，截止2月21日，已有约45%的央国企部署了DeepSeek模型。不少企业都是快速买一两台一体机，来体验DeepSeek的效果。这让 一体机商机几乎是以往的百倍 ，呈现井喷。   但 仅仅不到30天，一些企业就已走过尝鲜阶段， 从开箱即用的DeepSeek一体机 ，急速转向可支撑高并发、低时延的大规模专家并行（EP）推理集群 。   在这场算力迭代角逐中，昇腾大规模跨节点专家并行（大EP）方案，因对DeepSeek模型的支持及在技术思路上的契合，成为国内企业的主要选择。英伟达H2 ………………………………