注册    登录
专栏名称: 斌叔OKmath
橙旭园CEO 教育博主 教育部双创优秀导师。前微软员工。橙旭园儿童编程创始人。
今天看啥
微信公众号rss订阅, 微信rss, 稳定的RSS源
目录
今天看啥  ›  专栏  ›  斌叔OKmath

用日常设备在家中运行自己的 AI 集群的相当令人难以置信的设置。-20240823091559

斌叔OKmath  · 微博  ·  · 2024-08-23 09:15

文章预览

2024-08-23 09:15 本条微博链接 用日常设备在家中运行自己的 AI 集群的相当令人难以置信的设置。 @exolabs_ 和 @__tinygrad__ 后端。 关键是 exo 根据当前网络拓扑和可用的设备资源对模型进行最佳拆分。 参见图中代码，展示了分区策略。 👉拓扑： 因此，“拓扑”对象表示可用设备的整个网络、它们的功能及其连接。它灵活地表示网络中设备的连接方式及其功能。分区策略使用它来决定如何在可用设备上划分模型。 为了理解名称 ………………………………

原文地址：访问原文地址
快照地址： 访问文章快照
总结与预览地址：访问总结与预览
推荐文章
哲学王  ·  一个国家如何才会受人尊重？
2 天前
哲学园  ·  一个实验课题：零基础跟着GPT学广义相对论（14）
5 天前
哲学王  ·  全世界排名第一的笑话
5 天前
Dots机构投资者社区  ·  世界首例：CAR-T细胞疗法成功治疗儿童系统性红斑狼疮，症状完全消失，恢复正常生活
2 月前
生信图书馆  ·  分高不卷，这才是临床科研该有的样子！李兰娟院士团队都在用的NHANES数据库“老树开新花”~发文就是这么简单！
1 月前
CFC商品策略研究  ·  【建投航运快评】空窗期的继续以及拮抗胜负的前景
1 月前
IC实验室  ·  欧美垄断巨头10年大溃败，国外大牌为什么割不动中国人了？【IC实验室】
4 周前
关于   移动版   ·   Py中国   ·   RSS之家   ·   CodingPro   ·   Code   ·   Link之家   ·   卧龙AI搜索   ·   小百科
今天看啥 - 微信公众号rss订阅, 微信rss, 稳定的RSS源
© 2024 ~ 沪ICP备11025650号