文章预览
2024-10-18 11:45
本条微博链接
666!现在可以用Ollama直接跑Hugging Face模型! #ai# #chatgpt# Ollam支持运行 Hugging Face Hub 上任何 GGUF,可以指向45,000 个 GGUF 存储库中的任何一个!!! ollama run hf.co/{username}/{reponame}:latest 例如,要运行 Llama 3.2 1B,可以运行: ollama run hf.co/bartowski/Llama-3.2-1B-Instruct-GGUF:latest 要指定特定的Quant类型: ollama run hf.co/bartowski/Llama-3.2-1B-Instruct-GGUF :Q8_0 ChatGPT 黄建同学的微博视频
………………………………