深度学习理论进展如何？看这6节上海交大暑期学校硬课: 均值场理论、神经切核、函数空间理论、隐式正则化、频率原理（附PPT下载）

这6节深度学习理论硬核课！不容错过这个在线暑期学校旨在介绍近几年深度学习理论的进展，包括均值场理论、神经切核、函数空间理论、隐式正则化、频率原理等。不同观点之间的相互作用可能会对深度学习理论的发展有所启示。https://ins.sjtu.edu.cn/schools/2020/07/16/online-summer-school-of-deep-learning-theory/17751.  均值场神经网络神经网络的精确性和可训练性:近似和优化的均值场视角最近，对于深度神经网络理论研究有了一定突破。其中一支就是平均场理论(mean-field theory)。通过理论角度研究网络的初始化，研究者发现了两个影响网络训练的因素，一个是前向传播时网络对于不同样本的表达性(expressivity)以及反向传播时梯度消失爆炸问题，我们用可训练性(trainability)一词来描述关 ………………………………