调试神经网络让人抓狂？这有16条锦囊妙计送给你

文章预览

问耕 编译整理 量子位 出品 | 公众号 QbitAI 这一篇的作者还是Andrey Nikishaev，一位创业者兼开发者。量子位前两天搬运了他的另外一篇《 机器学习工程师自学指南 》。 即便对于行家来说，调试神经网络也是一项艰巨的任务。数百万个参数挤在一起，一个微小的变化就能毁掉所有辛勤工作的成果。然而不进行调试以及可视化，一切就只能靠运气，最后可能浪费掉大把的青春岁月。 怎么办？这里是我总结的一些方法，希望对你有所帮助。 数据集问题 尝试用小数据集来过拟合你的模型 一般来说，几百次迭代后神经网络就会对数据过拟合。如果损失还不下降，那么问题可能就深了。 使用迭代逻辑来解决问题 先建立一个最小的网络来解决核心问题，然后一步一步扩展到 ………………………………