LM Studio 0.3.4竟然集成了Apple MLX ！！-20241009115947

黄建同学 · 微博 · AI · 2024-10-09 11:59

文章预览

2024-10-09 11:59 本条微博链接 LM Studio 0.3.4竟然集成了Apple MLX ！！！ #ai# #ai创造营# 这意味这在 Apple M系列芯片上可以以超快的速度、100% 本地和离线方式运行设备上的 LLM！包括：在 M3 上以 ~250 tok/秒的速度运行 Llama 3.2 1B 支持总是以结构化 JSON 输出通过代码或者Chat UI使用模型同时运行多个模型从 Hugging Face Video 下载任何模型。 Blog：lmstudio.ai/blog/lmstudio-v0.3.4 Apple的LMStudio MXL Engine还是开源的：github.com/lmstudio-ai/mlx-engine ………………………………

原文地址：访问原文地址
快照地址：访问文章快照
总结与预览地址：访问总结与预览

分享到微博

推荐文章

宝玉xp · ;; ━━━━━━━━━━━━━━;; 作者: 李继刚;; 版本-20250311114622

昨天

黄建同学 · 有朋友说Trace也不错，还支持了Claude Sonnet 3-20250310134756

昨天

爱可可-爱生活 · [LG]《START: Self-taught Reasoner-20250310054949

2 天前

爱可可-爱生活 · [LG]《All Roads Lead to Likelihoo-20250309055547

3 天前

爱可可-爱生活 · [CL]《Q-Filters: Leveraging QK Ge-20250309061516

3 天前

媒人观察 · 重庆这三个区入选“国家级名单”！

5 月前