论文浅尝 | 通过基于动态文档知识图谱增强的大语言模型故事理解

文章预览

笔记整理：许方舟，天津大学硕士，研究方向为知识图谱 链接：https://ojs.aaai.org/index.php/AAAI/article/view/21286 1. 动机 基于大型 Transformer 的语言模型在需要叙事理解的各种任务上取得了令人难以置信的成功，包括故事完成、回答有关故事的问题以及无中生有地生成故事。然而，由于有限上下文窗口的限制，这些语言模型很难生成或理解超过数千个标记的故事。为了减轻有限上下文窗口带来的文档长度限制，该篇论文引入了一种新颖的架构，该架构通过外部动态知识图谱增强了故事处理。 2. 亮点 （1）设计与大型语言模型有效交互的架构，为语言模型提供丰富的事实提示，以增强故事理解； （2）引入 LF-SQuAD 和 LF-QUOREF，这两个新颖的评估任务旨在衡量长篇故事的理解能力； （3）引入新的故事完成度评估指标，与 BLEU 等之前的指标不同，该指标不假设人 ………………………………