HeLM: 一种两阶段的Table-to-text解决方案

文章预览

提纲 ‍ ‍ 1 简介 2 问题描述 ‍ ‍ ‍ 3 HeLM     3.1 HeLM训练框架 4 实验结果 5 讨论 参考文献 ‍ ‍ 1 简介 ‍ ‍ ‍ ‍ ‍ ‍     一般情况下，Tabel-to-Text模型会将表格逐行转成长文本输入到语言模型中，这会使得模型很难在这些非结构化且冗长的文本中找到跟query相关的数据单元。 基于此，研究人员提出了一种两阶段方案HeLM，该方案首先去定位到跟query相关的行信息，并将这些信息加入到原表格中，再去生成query对应的回复。这种新方案在实验效果上展现了明显的优越性，优于其他fineutne或者few-shot方案。 2 问题描述     在Table-to-Text任务中，输入包括一个包含行跟列信息的结构化表格T以及一个自然语言描述的问题Q，预期的输出是Y，一个Table-to-Text系统应该能够利用表格T里的信息生成针对用户问题Q的结果Y。简单理解，就是根据表格内容作出回 ………………………………