研究前沿：浙江大学-深度学习-几何解释 | Nature Machine Intelligence

文章预览

机器学习模型的可解释性，备受关注，特别是在高精度和可问责性至关重要的科学领域。 近日，浙江大学Jiajun Zhu, 佐治亚理工学院 （Georgia Institute of Technology）Siqi Miao，Pan Li等，在Nature Machine Intelligence上发文，重点是区分两种关键的数据模式，即敏感模式（模型相关）和决定性模式（任务相关）。这两种模式通常用作模型解释，但经常导致混淆。具体来说，比较了两种主流的解释方法：事后方法和自解释方法，在检测这些模式中的有效性。 最近，在各种科学应用中，几何深度学习geometric deep learning (GDL)显示出了优越的预测性能，迫切需要有原则的解释方法。利用几个具有代表性的何深度学习GDL应用程序作为案例研究，评估了应用于3个主要几何深度学习GDL主干模型的13种解释方法，使用4个科学数据集，评估了这些方法如何识别敏感和决定性的模式。 ………………………………