神经网络训练不收敛或训练失败的原因总结

文章预览

点击上方 “ 小白学视觉 ”，选择加" 星标 "或“ 置顶 ” 重磅干货，第一时间送达 前言   本文分别从数据方面和模型方面分析了导致模型训练不收敛或失败的原因，数据方面总结了四种可能的原因，模型方面总结了九种可能的问题。除此之外，本文介绍了每种潜在问题的产生后果或现象，并提供了常规做法。 作者 ：风影忍着@知乎(已授权) 编辑：CV技术指南 文章：https://zhuanlan.zhihu.com/p/285601835 在面对模型不收敛的时候，首先要保证训练的次数够多。在训练过程中，loss并不是一直在下降，准确率一直在提升的，会有一些震荡存在。只要总体趋势是在收敛就行。若训练次数够多（一般上千次，上万次，或者几十个epoch）没收敛，再考虑采取措施解决。 一、数据与标签方面 1. 没有对数据进行预处理 。数据分类标注是否准确？数据是否干净？ 2. 没有 ………………………………