英伟达下场，首次优化DeepSeek-R1！B200性能狂飙25倍，碾压H100

文章预览

   新智元报道   编辑：好困 犀牛 【新智元导读】 最近，英 伟达开源了首个在Blackwell架构上优化的DeepSeek-R1，实现了推理速度提升25倍，和每token成本降低20倍的惊人成果。 同时，DeepSeek连续开源多个英伟达GPU优化项目，共同探索模型性能极限。 当FP4的魔法与Blackwell的强大算力相遇，会碰撞出怎样的火花？ 答案是：推理性能暴涨25倍，成本狂降20倍！ 随着DeepSeek-R1本地化部署的爆火，英伟达也亲自下场，开源了首个基于Blackwell架构的优化方案——DeepSeek-R1-FP4。 在新模型的加持下，B200实现了高达21,088 token每秒的的推理吞吐量，相比于H100的844 token每秒，提升了25倍。 与此同时，每token的成本也实现了20倍的降低。 通过在Blackwell架构上应用TensorRT DeepSeek优化，英伟达让具有FP4生产级精度的模型，在MMLU通用智能基准测试中达到了FP8模型性能的99.8%。 DeepSe ………………………………