可解释性终极追问，什么才是第一性解释？20篇CCF-A+ICLR论文给你答案

主要观点总结

文章主要讨论了神经网络可解释性的第一性原理，即解释神经网络内在机理的理论。提出了等效交互可解释性理论体系，从三个角度解释神经网络的内在机理，并基于该理论，提出了对神经网络可解释性方向的工程性算法的理论凝练。同时，文章还讨论了神经网络训练过程中的两阶段现象，即神经网络如何逐渐消除中高阶交互，学习低阶交互，然后逐渐建模阶数不断增大的交互，并精确预测出神经网络每一个时间点上所学到的交互概念的数量、复杂度，以及泛化性变化的动力学规律。此外，文章还讨论了神经网络的泛化性问题，认为它是一个混合模型问题，而不是一个高维空间的向量，以及交互的定义和性质。

关键观点总结

关键观点1: 等效交互可解释性理论体系

提出了等效交互可解释性理论体系，从三个角度解释神经网络的内在机理，并基于该理论，提出了对神经网络可解释性方向的工程性算法的理论凝练。

关键观点2: 神经网络训练的两阶段现象

讨论了神经网络训练过程中的两阶段现象，即神经网络如何逐渐消除中高阶交互，学习低阶交互，然后逐渐建模阶数不断增大的交互，并精确预测出神经网络每一个时间点上所学到的交互概念的数量、复杂度，以及泛化性变化的动力学规律。

关键观点3: 神经网络的泛化性问题

讨论了神经网络的泛化性问题，认为它是一个混合模型问题，而不是一个高维空间的向量，以及交互的定义和性质。

免责声明