一个有情怀的公众号。机器学习、自然语言处理、算法等知识集中营、期待与你相遇~
今天看啥  ›  专栏  ›  机器学习算法与自然语言处理

从答案到问题:一种新的学习目标让LLM更擅长推理

机器学习算法与自然语言处理  · 公众号  ·  · 2024-12-07 00:00
    

文章预览

MLNLP 社区是国内外知名的机器学习与自然语言处理社区,受众覆盖国内外NLP硕博生、高校老师以及企业研究人员。 社区的愿景 是促进国内外自然语言处理,机器学习学术界、产业界和广大爱好者之间的交流和进步,特别是初学者同学们的进步。 转载自 | 深度学习自然语言处理  这篇文章介绍了REVTHINK框架,通过数据增强和学习目标来增强大型语言模型(LLMs)的反向推理能力。研究表明,REVTHINK在常识推理、数学推理和逻辑推理等12个数据集上显著提高了LLMs的性能,平均比零样本表现提升了13.53%,比现有的知识蒸馏基线提升了6.84%。此外,REVTHINK展示了样本效率,并且在模型规模和分布外数据集上也表现出良好的泛化能力。 论文: Reverse Thinking Makes LLMs Stronger Reasoners 链接: https://arxiv.org/pdf/2411.19865v1 研究背景 研究问题:如何在大语言模型(LLMs)中引 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览