深度学习训练时网络不收敛的缘由分析总结

不少同窗会发现，为何我训练网络的时候loss一直居高不下或者准确度时高时低，震荡趋势，一会到11，一会又0.1，不收敛。 又不知如何解决，博主总结了本身训练经验和看到的一些方法。数据库 首先你要保证训练的次数够多，不要觉得一百两百次就会一直loss降低或者准确率一直提升，会有一点震荡的。只要整体收敛就行。若训练次数够多（通常上千次，上万次，或者几十个epoch）没收敛，则试试下面方法：网络 记忆宝

>>阅读原文<<