可解释性终极追问，什么才是第一性解释？20篇CCF-A+ICLR论文给你答案

文章预览

©作者 |  张俊鹏、任启涵等 单位 |  上海交通大学 来源 |  机器之心 本文首先简单回顾了『 等效交互可解释性理论体系 』（20 篇 CCF-A 及 ICLR 论文），并在此基础上，严格推导并预测出神经网络在训练过程中其概念表征及其泛化性的动力学变化，即在某种程度上，我们可以解释在训练过程中神经网络在任意时间点的泛化性及其内在根因。 前言 长期以来，我们团队一直在思考可解释性领域的一个终极问题，即 什么才是解释性领域的第一性原理 ？所谓第一性原理，目前没有一个被广泛接受的框架，世上本无路，我们需要逐渐去定义这样一个路。我们 需要在一个新的理论体系中，提出大量的公理性要求，得出一个可以从不同的角度全方位精确严谨解释神经网络内在机理的理论。一套理论系统能严谨解释神经网络的方方面面才叫 “第一性原理” 。 如 ………………………………