我们给大模型去掉了“AI味”-大模型微调全链路实战

文章预览

01 前言 随着人工智能技术的飞速发展，大型语言模型（LLMs）已经成为自然语言处理领域的核心驱动力。本文档旨在概述使用ModelScope生态进行LLM训练的全链路最佳实践，涵盖数据下载、数据预处理、模型训练、模型评估完整流程。 02 主要内容 教程以 知乎评论数据集 （ https://modelscope.cn/datasets/OmniData/Zhihu-KOL ）为例，使用LoRA微调模型，让AI生成的文本没有那么强的“AI味” 本教程涉及以下框架的安装和使用： modelscope （ https://github.com/modelscope/modelscope ） 提供模型、数据集下载能力 data-juicer （ https://github.com/modelscope/data-juicer ） 提供数据集处理能力 ms-swift （ https://github.com/modelscope/ms-swift ） 提供模型训练、推理能力 evalscope （ https://github.com/modelscope/evalscope ） 提供模型评测能力 03 环境准备 推荐使用魔搭社区免费GPU，已经预置镜像，并使用pip进行相关 ………………………………