文章预览
2024-07-21 09:34
本条微博链接
这真是太棒了！LlaMa-Factory 提供了一个 WebUI，可以高效地微调 100 多个 LLM。 功能包括： - 各种模型（例如 Llama Mistral、Qwen 等） - 集成方法（例如 PPO、SFT、预训练等） - 缩放（例如 LoRA、16 位全调优等） - 高级算法（例如 DoRA、LongLoRA、Mixtur-of-Depths 等） - 实用技巧（例如 flashattention、RoPE 缩放等） - 实验管理（例如 llamaboard、tensorboard、wandb 等） - 更快的推理（例如 gradio UI、OpenAI 风格的 API） github
………………………………
