DeepSeek本地模型显卡横评，显存不够算力都白搭

文章预览

DeepSeek本地化部署是当下热门的应用方式，它除了可以避免服务器繁忙之外，本地化运行还能够极大程度保护用户的隐私。 目前DeepSeek有众多版本，其中模型容量差距可达数十倍，到底该如何选择适合自己硬件的版本来部署，一直是用户比较头疼的问题。 今天我们就使用 RTX  5090 D、RTX 5080、RTX 5070 Ti以及RTX 5070，共4张RTX 50系显卡来实测一下，不同显卡之间的性能差距。 首先介绍一下测试平台，除了本次测试的4张显卡，处理器选择AMD R7 9800X3D，内存为48GB DDR5 6000MHz。 关于本地部署的步骤这里不再过多讲解， 有兴趣的用户可以翻看我们此前的文章。 测试使用LM Studio，无加速框架进行对比，完全凭借显卡自身算力。毕竟不同加速框架对不同厂商的显卡优化不同，测试变量太大。 这里我们首先选择【DeepSeek R1 Distill Qwen 32B】模型。 将GPU卸载拉满，这意味 ………………………………