手把手教你驯服DeepSeek-R1！部署+测试+性能优化万字全攻略

文章预览

点击上方 “ 小白学视觉 ”，选择加" 星标 "或“ 置顶 ” 重磅干货，第一时间送达 作者丨 Mr.Felix 编辑丨极市平台 极市导读   本文 详细介绍了如何部署和测试DeepSeek-R1模型，涵盖了从Ollama到vLLM的多种推理框架的安装与配置，并提供了性能测试结果和优化建议，帮助用户在多机多卡环境下高效运行大模型。   一、Ollama 1、直接运行：curl -fsSL https://ollama.com/install.sh | sh 运行如果报网络错误则参考链接进行手动下载安装并设置自启动。 2、参考链接设置ollama保存模型的路径和设置监听端口。 3、选择合适模型，运行命令：ollama run deepseek-r1:1.5b DeepSeek-R1-Distill-Qwen-1.5B单卡2080Ti显存占用1902MiB。 4、参考链接设置远程部署，并在客户端用Chatbox访问； 二、vLLM ollama部署类似docker的方式，好处是比较简单易上手，但对于生产环境来说，可配置功能简单、不支持多 ………………………………