【用不到2000美元在本地运行671B参数的全量Deepseek-20250202082627

爱可可-爱生活 · 微博 · AI · 2025-02-02 08:26

文章预览

2025-02-02 08:26 本条微博链接【用不到2000美元在本地运行671B参数的全量Deepseek-R1模型】这套系统核心是一台AMD EPYC服务器，能达到3.5-4.25 tokens/秒的推理速度。关键配置如下： - CPU： AMD EPYC 7702（64核）或7V13/7C13 - 主板： MZ32-AR0（支持高达1TB内存） - 内存： 512GB DDR4 ECC - 存储： 1TB NVMe固态硬盘 - 散热： 420mm水冷 - 功耗：空载60W，满载260W 部署步骤其实不算太复杂： 1. 安装Ubuntu 24.04服务器版 2. 配置Ollama环境 3. 部署OpenWebUI界面 ………………………………

原文地址：访问原文地址
快照地址：访问文章快照
总结与预览地址：访问总结与预览

分享到微博

推荐文章

宝玉xp · 谷歌向美国平台与设备部门的所有员工提供“自愿离职”选项离职者可获-20250201122402

昨天

爱可可-爱生活 · 【[44星]llama.cl：用Common Lisp实现的LL-20250130211751

2 天前

机器之心 · 为什么说DeepSeek的R1-Zero比R1更值得关注？

2 天前

爱可可-爱生活 · 【[1.1k星]Malimite：iOS和macOS的全能反编译-20250129195517

3 天前

爱可可-爱生活 · 本文提出了 Mixture-of-Mamba，一种新的模态感知稀-20250129082118

4 天前

传媒学术网 · 【出版】Information, Communication & Society：2024年第6期

7 月前

金手研学社 · 轻轻松松5分钟，搞定定存利息4.5%的账户

6 月前

乌鸦电影 · 这份爱太伟大！又哭又笑，年度治愈神片，是我安利晚了…

6 月前

吴晓波频道 · 2024年A股市场的三点变化，传递积极信号

1 月前

科学家庭育儿 · 实测，怎样买"大路灯"才不是“智商税”

1 周前