大模型训练十戒？谨记！

文章预览

以下 文 章来源于微信公众号： 包包算法笔记 作者： 包包闭关修炼 链接：https://mp.weixin.qq.com/s/kSSXKPxTyBj9QFUnnMcEDA 本文仅用于学术分享，如有侵权，请联系 后 台作删文处理 导读 现在大模型发展得如火如荼，但是没有学过人工智能技术的开发者，训练大模型多多少少会有困难。今天看到一个很有意思大模型训练建议，言简意赅，字字玑珠，与大家分享。 1. 切勿微调（Thou Shalt Not Fine-Tune） ： 尽量写prompt，利用大模型本身的能力zeroshot，必要时辅以少量样本（few-shot examples）或检索增强生成（RAG）。 微调成本高、速度慢且复杂，仅在确实需要时才进行。 注解：在一些接近大模型通用能力的场景上，随着模型基础能力的增强，微调的必要性越来越低。如果最近使用过gpt4o的接口的话，一定会被其拥有3.5的速度和4.5的效果震撼到，真的，如无必要，无需 ………………………………