这个搭配可以！ 7 台 M4 Pro Mac Mini + 1 -20250122125112

黄建同学 · 微博 · AI · 2025-01-22 12:51

文章预览

2025-01-22 12:51 本条微博链接这个搭配可以！ 7 台 M4 Pro Mac Mini + 1 台 M4 Max MacBook Pro 上运行 DeepSeek R1，总内存=496GB。底层用的是EXO：在家中使用日常设备运行自己的 AI 集群。与其他分布式推理框架不同，exo 不使用主从架构。相反，exo 设备采用 p2p 连接。只要设备连接到网络中的某个位置，就可以使用它来运行模型。 Exo 支持不同的分区策略，以跨设备分割模型。默认分区策略是环内存加权分区。这会在环中运行推理，其中 ………………………………

原文地址：访问原文地址
快照地址：访问文章快照
总结与预览地址：访问总结与预览

分享到微博

推荐文章

AI范儿 · AI 全面碾压人类只需要 2-3 年

昨天

AI范儿 · AI 全面碾压人类只需要 2-3 年

昨天

新智元 · 智谱Agent抢跑OpenAI，GLM-PC一句话搞定一切！网友：有AGI那味了

昨天

爱可可-爱生活 · 【[153星]RTen：一个用Rust编写的轻量神经网络推理引擎-20250122211446

2 天前

宝玉xp · //@明风:其实“蒸馏”这个词最近有点被滥用了，原本的蒸馏，教师-20250122134720

2 天前

爱可可-爱生活 · 【GeoSpy：强大的AI图像智能工具，可根据图像特征对照片进行-20250122085100

2 天前

中国化工信息周刊 · 突发！事关荣盛石化

7 月前

招标采购那些事 · 100个典型“串标”迹象，审计请注意！

4 月前

医脉通 · 共襄学术盛宴，洞见未来趋势！2024 ASN即刻启程！

3 月前

t0mbkeeper · 2024 年 10 月 17 日到 20 日，ORELEXPO-20241019182210

3 月前