Facebook AI新研究：可解释神经元或许会阻碍DNN的学习

来源：新智元本文约2000字，建议阅读5分钟易于解释的神经元可能会阻碍深层神经网络的学习。[ 导读 ]Facebook AI 近期更新博客介绍了一篇新论文，即研究人员通过实验发现「易于解释的神经元可能会阻碍深层神经网络的学习」。为了解决这些问题，他们提出了一种策略，通过可伪造的可解释性研究框架的形式来探讨出现的问题。人工智能模型到底「理解」了什么内容，又是如何「理解」的呢？回答这个问题对于改进人工智能系统来说至关重要。而不幸的是，计算机科学家解释深层神经网络(DNN)的能力远远落后于我们用它们实现有用结果的能力。一种常见的理解DNN的方法集中在单个神经元的属性上，例如，寻找出一个单独的神经元，这个神经元可以激活猫的图像，但不能 ………………………………