Exo，使用日常设备在家中运行自己的 AI 集群。项目：gith-20240721075857

黄建同学 · 微博 · AI · 2024-07-21 07:58

文章预览

2024-07-21 07:58 本条微博链接 Exo，使用日常设备在家中运行自己的 AI 集群。项目：github.com/exo-explore/exo 特点： #ai# #ai探索计划# • 广泛的模型支持支持 LLaMA（MLX和tinygrad）和其他流行模型。 • 动态模型分区 exo根据当前网络拓扑和可用设备资源对模型进行最佳分割。这使我们就能够运行比在任何单个设备上都能够运行的更大的模型。 • 自动设备发现使用最佳可用方法自动发现设备，无需手动配置。 • 兼容ChatGPT API 提 ………………………………

原文地址：访问原文地址
快照地址：访问文章快照
总结与预览地址：访问总结与预览

分享到微博

推荐文章

宝玉xp · //@赏味不足:赞//@月沐千夜://@肉麒麟:哈哈哈哈//@他-20240907024006

昨天

量子位 · 40年图灵机难题被业余玩家攻破，陶哲轩：软件辅助证明改变数学研究规则

昨天

黄建同学 · #极越01# 升级了OTA 2.0了，ASD果然很牛*！昨晚这段-20240903171408

4 天前

爱可可-爱生活 · [LG]《Text2SQL is Not Enough: Uni-20240902054841

6 天前

爱可可-爱生活 · 【PIZZA：面向大型语言模型（LLMs）的归因库，用于计算提示-20240901181402

6 天前