知识图谱结构的提示

文章预览

文章介绍了一种名为“知识图谱结构作为提示”（ KG Structure as Prompt ）的新方法，该方法旨在增强小型语言模型（ SLMs ）在知识驱动的因果发现任务中的能力。通过将知识图谱中的结构信息融入到基于提示的学习中，此方法能够提升 SLMs 对于因果关系的推理能力。在生物医学和开放领域的数据集上，该方法在少量样本的情况下表现优异，甚至超过了大多数基线和使用完整数据集训练的传统微调方法。此外，研究还揭示了 SLMs 结合知识图谱和提示学习时，有潜力超越参数量更大的语言模型。 1 任务和方法 1. 任务定义 目标 : 给定一对实体 (e1, e2) ，预测它们之间是否存在因果关系。 任务类型 : 二分类问题，分类为因果或非因果关系。 数据集 : 包含训练实例和关系标签的集合 D={X,Y} ，其中每个实例 x 包含一个标记的变量对和对应的标签。 2. 方法概 ………………………………