ECCV 2024 | 研究残差及跳跃连接的可解释性，层相关性传播LRP在ResNet网络中的适配

文章预览

虽然， 现代神经网络仍然无法摆脱“黑盒”困境 ，但这些年，网络的可解释研究始终在向前发展。解释方法的公式透明化对于阐明神经网络的预测行为至关重要。 近来比较受欢迎的分层相关性传播（Layer-wise Relevance Propagation，LRP）方法可以透明地计算出反向传播的相关性分数，并在模型预测时追踪其在整体架构中的流动情况 。但这种方式缺乏进一步的发展，例如传统的LRP方法没有充分考虑网络中跳跃连接的存在，因此其在广泛使用的ResNet架构中尚未得到研究。 本文介绍一篇发表在ECCV 2024上的工作， 在本文中，作者通过对跳跃连接和残差块的输出收敛性进行相关性拆分，从而将LRP 扩展到 ResNet 网络中 。本文的证明公式拥有高度的过程守恒性，保证了生成解释的质量和完成性。此外，本文在ImageNet 和 Caltech-UCSD Birds-200-2011两个权威的数据集上进行了 ………………………………