专栏名称: 黄建同学
数码博主 超话主持人(ChatGPT超话) 头条文章作者 我的学习笔记,关注AI+新能源
今天看啥  ›  专栏  ›  黄建同学

有希望成为k8s,scale-up - scale-out //-20250122212713

黄建同学  · 微博  · AI  · 2025-01-22 21:27
    

文章预览

2025-01-22 21:27 本条微博链接 有希望成为k8s,scale-up - scale-out // @jetwaves :牛掰,exo有机会成为AI时代的k8s 这个搭配可以! 7 台 M4 Pro Mac Mini + 1 台 M4 Max MacBook Pro 上运行 DeepSeek R1,总内存=496GB。 底层用的是EXO:在家中使用日常设备运行自己的 AI 集群。 与其他分布式推理框架不同,exo 不使用主从架构。相反,exo 设 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览