调查 CoT 增强蒸馏的奥秘

文章预览

文章探讨了如何通过“链式推理”（ CoT ）增强模型蒸馏的效果。研究发现，将由大型语言模型生成的推理链附加在目标标签之后进行训练，小型模型在推理任务中的表现会得到显著提升。此外，推理链的顺序、长度和连贯性并不关键，甚至少量关键性词汇也能达到类似效果。这表明推理链并不一定需要在推理时生成，而是作为训练信号对模型的学习有帮助。研究还通过实验分析了推理链在不同条件下对模型性能的影响。 1 链式推理-COT 链式推理增强模型蒸馏的有效性 研究表明，通过将大型语言模型生成的链式推理序列（CoT）加入到目标标签中作为训练数据，可以显著提高小型模型在推理任务中的表现。模型通过模仿这些推理链，更好地掌握任务中的逻辑关系。 实验发现，将推理链附加在目标标签之后比放在标签之前效果更好。这表明，在测试阶 ………………………………