主要观点总结
文章详细介绍了大模型 sft 的工作原理、背景知识、数据准备、训练技巧、评估方式等，并分享了作者的 sft 工作经验。文章强调了 sft 工作的简单性，强调其不需要传统 NLP 任务中的复杂操作，并指出了 sft 的核心在于数据多样性和数据质量，同时提到了处理欠拟合和过拟合问题的方法，以及评估模型表现时需要考虑的多个维度。文章还分享了作者对于 sft 工作的看法和态度，以及对未来的期待。
关键观点总结
关键观点1: sft 工作简介
文章介绍了 sft 的工作原理，强调其简单性，并解释了其与传统 NLP 任务的差异。
关键观点2: 数据准备
文章强调了数据多样性和数据质量的重要性，并给出了数据准备的一些技巧和建议。
关键观点3: 训练技巧
文章分享了处理欠拟合和过拟合问题的方法，以及评估模型表现时需要考虑的多个维度。
关键观点4: 作者的经验与态度
作者分享了 sft 工作的经验和态度，强调了了解 base 模型能力、培养训练 feel 的重要性，并表达了对 sft 工作的乐观态度。
文章预览
作者：ybq @知乎 链接：https://zhuanlan.zhihu.com/p/809229182 这篇文章介绍一下大模型的 sft 如何去做。相比较于上一篇文章介绍的 pretrain ，sft 实在没有太多的技术细节和琐碎工作需要科普。因此，我会默认读者们都知道 sft 是做什么的以及如何去做一些简单的 sft 微调工作，我主要是分享一些经验技巧和 debug 的分析思路。 老样子，为避免老板开了我，涉及到 agent / 复杂指令 / 长文本等相对避讳一点的话题，我会点到为止，主要聊聊大的技术方向，细节可能就不多说了，望大家见谅。 背景篇 这里先普及一些 sft 涉及到的基础概念，方便新人同学理解后续内容，老同学则可以跳过这一篇章。 Special Token pretrain 阶段完全没见过的 token，在sft 阶段会被赋予全新的语义。主要用于标注对话的角色：user、assistant、system 这些。 此外，special_token 可以用来“构造知识
………………………………
