专栏名称: 黄建同学
数码博主 超话主持人(ChatGPT超话) 头条文章作者 我的学习笔记,关注AI+新能源
今天看啥  ›  专栏  ›  黄建同学

Exo,使用日常设备在家中运行自己的 AI 集群。项目:gith-20240721075857

黄建同学  · 微博  · AI  · 2024-07-21 07:58

文章预览

2024-07-21 07:58 本条微博链接 Exo,使用日常设备在家中运行自己的 AI 集群。 项目:github.com/exo-explore/exo 特点: #ai# #ai探索计划# • 广泛的模型支持 支持 LLaMA(MLX和tinygrad)和其他流行模型。 • 动态模型分区 exo根据当前网络拓扑和可用设备资源对模型进行最佳分割。这使我们就能够运行比在任何单个设备上都能够运行的更大的模型。 • 自动设备发现 使用最佳可用方法自动发现设备,无需手动配置。 • 兼容ChatGPT API 提 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览