一个从大三就接触NLP的小小NLPer,本公众号每天记录自己的一点一滴,每篇文章最后也有托福单词等新知识,学技术同时,也一点一滴积累额外的知识。期待与你在知识的殿堂与你相遇!
今天看啥  ›  专栏  ›  深度学习自然语言处理

ENVISIONS:一种无需人类标注的LLM自训练框架

深度学习自然语言处理  · 公众号  ·  · 2024-06-26 15:18

文章预览

论文 :Interactive Evolution: A Neural-Symbolic Self-Training Framework For Large Language Models 地址 :https://arxiv.org/abs/2406.11736 项目 :https://github.com/xufangzhi/ENVISIONS 这篇论文试图解决什么问题? 这篇论文提出了一个名为ENVISIONS的环境引导的神经符号自训练框架,旨在解决以下两个问题: 符号数据的稀缺性 :在神经符号场景中,与丰富的自然语言(NL)标注数据相比,获取符号标注数据(例如,用于复杂规划、数学推理、机器人学和代理任务的符号表示)更加困难和昂贵。 大型语言模型(LLMs)处理符号语言的能力有限 :当前的自训练方法在自然语言场景中取得了成功,但在神经符号场景中,LLMs在处理符号语言方面的能力还有待提高。 为了解决这些问题,ENVISIONS框架通过与环境的交互来进行迭代训练,以增强LLMs处理符号语言的能力,并减少对人类标注数据的需求 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览