CoLiDR: 使用聚合解缠表示进行概念学习

文章预览

来源：专知 本文 为论文介绍 ，建议阅读 5 分钟 在本文中，我们提出了一种新方法CoLiDR，该方法利用解缠表示学习框架来学习相互独立的生成因子，并随后通过一个新颖的聚合/分解模块将这些表示聚合为人类可理解的概念。 深度神经网络的可解释性研究通过基于概念的模型提供了一种有前景的方法，以人类可理解的概念来解释模型行为。另一条平行的研究路径则侧重于将数据分布解缠为其底层生成因子，从而解释数据生成过程。虽然这两种方向都得到了广泛关注，但很少有工作致力于将生成因子解释为概念，从而将数学上解缠的表示与人类可理解的概念统一起来，以用于下游任务的解释。在本文中，我们提出了一种新方法CoLiDR，该方法利用解缠表示学习框架来学习相互独立的生成因子，并随后通过一个新颖的聚合/分解模块将这些表示聚合为人类 ………………………………