Ollama 升级！支持一键拉取Huggingface上所有的模型，太方便了！（vLLM、Fastgpt、Dify、多卡推理）

文章预览

🍹  Insight Daily  🪺 Aitrainee | 公众号：AI进修生 Hi，这里是Aitrainee，欢迎阅读本期新文章。 我记得， 梦的开始 ，源于Ollama。很早以前的一篇文章教大家如何通过 Ollama 来使用开源 LLM，许多人最初接触 AI 时也是从Ollama开始的。Ollama 之所以出色，是因为它使用了 GGML 格式，这是一种‘轻量版’的大语言模型，以较低精度运行，能够轻松适配普通硬件。这使得在本地系统上运行这些模型变得简单高效，真正为 AI 的广泛应用铺平了道路。 今天，Ollama变得更好了， 这次更新效果相当大，因为它基本上打开了Ollama直接使用各种模型的闸门。 以前，我们只能下载ollama models注册表中已有的模型， 其实这个东西挺不方便的，比如以前搜什么Llama3.1 70B chinese版都没有，还得自己去 Huggface找然后自定义构建。 而现在，你可以使用单个 ollama run 命令运行  Hub 上 45K ………………………………