【CMU博士论文】使用结构化推理增强语言模型

来源：专知本文为论文介绍，建议阅读5分钟本文提出了通过在语言模型的设计和操作中整合结构化元素来解决这些局限性的方法。语言生成和推理领域的快速发展得益于围绕大型语言模型的用户友好库的普及。这些解决方案通常依赖于Seq2Seq范式，将所有问题视为文本到文本的转换。尽管这种方法方便，但在实际部署中存在局限性：处理复杂问题时的脆弱性、缺乏反馈机制以及内在的黑箱性质阻碍了模型的可解释性。本文提出了通过在语言模型的设计和操作中整合结构化元素来解决这些局限性的方法。在此背景下，结构被定义为数据的系统性、层次性或关系性组织和表示，以及在学习和推理过程中引入结构约束。这些元素在模型开发和部署的不同阶段被整合：训练、推理和推理后。在训练阶段，我们提出了训练图辅助问答模型的技术，并发现有助 ………………………………