TPAMI 2024 | 通过寻找相关子空间对神经网络预测进行解耦解释

文章预览

Disentangled Explanations of Neural Network Predictions by Finding Relevant Subspaces 题目：通过寻找相关子空间对神经网络预测进行解耦解释 作者：Pattarawat Chormai; Jan Herrmann; Klaus-Robert Müller; Grégoire Montavon 源码：https://github.com/p16i/drsa-demo 摘要 可解释人工智能旨在通过为其预测生成解释来克服复杂机器学习模型（如神经网络）的黑箱特性。这些解释通常采取热图的形式，识别对模型决策相关的输入特征（例如像素）。然而，这些解释将进入整体复杂决策策略的多个因素纠缠在一起。我们提出通过在神经网络的某个中间层提取子空间来解耦解释，这些子空间捕获与预测相关的多种且不同的激活模式（例如视觉概念）。为了自动提取这些子空间，我们提出了两种新的分析方法，扩展了 PCA 或 ICA 中的原则以用于解释。这些新的分析方法，我们称之为主要相关成分分析（PRCA ………………………………