NeurIPS 2024 | 大模型知识表示的“知识回路”假说，深入理解大模型的知识机理

文章预览

引言 尽管大模型在常识、科学知识的理解及推理决策能力等方面已展示出较强的潜力，其仍面临幻觉等知识谬误问题，由此引发了一系列对大模型知识表示、存储和处理机理的深入探讨： 大型模型的知识处理方式是否与人脑相似？其能力是否能超越人类？ 知识图谱通过符号表示明确刻画实体和概念间的关系，而语言模型则依赖神经网络和注意力机制隐式关联知识元素。以多跳推理为例，知识图谱提供可解释、可控的显式路径，而语言模型在隐式参数空间中依赖注意力等权重找到答案，导致解释性和可靠性不足。 为深入理解大模型的知识机理，本文被提出 大模型知识表示的“知识回路”（Knowledge Circuits）假说 ，认为大模型知识处理过程中的实体、概念和关系是通过参数激活逐步形成闭合回路，以助于发展更可靠、可控、安全的大模型知识学习架 ………………………………