主要观点总结
DeepSeek公开了名为DeepSeek-V3/R1的推理系统架构，通过跨节点高效并行技术提高了吞吐量和降低了延迟。其成本利润率高达545%，引发了行业内的关注。该文详细介绍了DeepSeek-V3/R1的设计原则、技术实现和性能数据。
关键观点总结
关键观点1: DeepSeek-V3/R1推理系统简介
DeepSeek公开了全新的推理系统架构DeepSeek-V3/R1，旨在提高吞吐量和降低延迟。该系统采用跨节点高效并行（EP）驱动批处理扩展，计算与通信并行处理。
关键观点2: 系统性能与成本
DeepSeek-V3/R1的每个H800节点每秒处理73,700个输入/输出token，成本利润率高达545%。尽管实际收入低于预测，但由于定价策略和服务商业化程度的不同，利润率仍然很高。
关键观点3: 技术挑战与解决方案
为了实现高吞吐量和低延迟，DeepSeek-V3/R1面临了跨节点通信、数据并行和负载均衡等技术挑战。DeepSeek通过采用预填充-解码解耦架构、dual-batch重叠策略、五阶段流水线技术等手段，有效地解决了这些挑战。
关键观点4: 大规模跨节点专家并行（EP）技术
DeepSeek-V3/R1中包含大量专家模块，采用大规模跨节点EP技术。该技术显著提高了批处理规模，从而确保了每个专家模块获得足够的批处理量，实现了更高的吞吐量和更低的延迟。
关键观点5: 负载均衡的实现
在大规模并行中，负载均衡是关键。DeepSeek在预填充、解码和专家并行三个阶段都实现了负载均衡，以确保所有GPU资源得到充分利用。
文章预览
新智元报道 编辑：KingHZ 好困 【新智元导读】 DeepSeek公开推理系统架构，成本利润率可达545%！明天还有更大惊喜吗？ 就在刚刚，当 大家以为开源周已经结束的时候，真「Open AI」DeepSeek带来了压轴大戏——DeepSeek-V3/R1推理系统，全面揭秘！ 吞吐量和延迟优化： 跨节点高效并行（EP）驱动的批处理扩展 计算与通信并行处理 智能负载均衡 在线服务性能数据： 每个H800节点每秒处理73,700/14,800输入/输出token 成本利润率高达545% DeepSeek表示，希望本周分享的技术见解能为开源社区带来价值，共同推进通用人工智能的发展目标。 看到这里，网友都惊了！ 所以，基本免费的DeepSeek成本利润率高达545%，而堪称世界最贵的OpenAI却在亏损？ 系统设计原则 简单来说，DeepSeek-V3/R1推理服务的优化目标是： 提高吞吐量和降低延迟。 为了实现这两个目标，团队采用了
………………………………
