可解释性终极追问，什么才是第一性解释？20篇CCF-A+ICLR论文给你答案

文章预览

MLNLP 社区是国内外知名的机器学习与自然语言处理社区，受众覆盖国内外NLP硕博生、高校老师以及企业研究人员。 社区的愿景 是促进国内外自然语言处理，机器学习学术界、产业界和广大爱好者之间的交流和进步，特别是初学者同学们的进步。 转载自 | 机器之心 单位 | 上海交通大学 作者 | 张俊鹏、任启涵等 本文首先简单回顾了『 等效交互可解释性理论体系 』（20 篇 CCF-A 及 ICLR 论文），并在此基础上，严格推导并预测出神经网络在训练过程中其概念表征及其泛化性的动力学变化，即在某种程度上，我们可以解释在训练过程中神经网络在任意时间点的泛化性及其内在根因。 前言 长期以来，我们团队一直在思考可解释性领域的一个终极问题，即 什么才是解释性领域的第一性原理 ？所谓第一性原理，目前没有一个被广泛接受的框架，世上本无路， ………………………………