关于post-training和一些思考

主要观点总结

本文讨论了Llama3.1等开源大模型的post-training技术报告，包括DPO与PPO的选择、Preference Data的开源与数据质量、RLHF的迭代过程、Synthetic Data的合成与管理、Math and Reasoning的提升方法、Post-training的作用与展望等相关内容。

关键观点总结

关键观点1: DPO与PPO的选择

文章提到DPO对于大规模模型所需的计算更少，并且性能更好，尤其是在遵循IFEval等基准测试的指令方面。尽管学界已经有很多研究证实了PPO有更高的上限和表现，但几乎没有开源的大模型有具体实现PPO的细节。

关键观点2: Preference Data的开源与数据质量

文章讨论了开源偏好数据集的机构较少，尽管都宣称是开源的，但更像是免费使用的软件。同时提到了人的标注在LLM训练中的作用，以及只用LLM来判断哪个回答更好或者RM输出哪个奖励更高的可行性。

关键观点3: RLHF的迭代过程

文章阐述了RLHF作为一个迭代过程，从Llama 2的5轮训练到Llama 3的6轮训练，讨论了数据分批发放和防止reward hack的迭代原因。同时提到了迭代是否有上限，以及如何参照预训练里加SFT数据在预训练阶段加偏好数据。

关键观点4: Synthetic Data的合成与管理

文章重点讨论了合成数据在大模型训练中的作用，提到未来的大模型训练工作会把数据分为多个domain，每个domain都有一套自己的数据搜集、合成、过滤的pipeline。

关键观点5: Math and Reasoning的提升方法

文章介绍了在post-training中提升大模型数学和推理能力的三种方法，包括通过MCTS生成数据和value/reward model迭代提升、精心训练好Process Reward Model然后用PPO类的算法优化、用lean形式化问题然后从反馈中学习。

关键观点6: Post-training的作用与展望

文章讨论了RLHF在GPT问世后的作用及逐渐被业界接受的过程，以及未来工作的重点是如何建立一个好的pipeline来造偏好数据/合成数据。

免责声明