深度学习模型训练技巧

训练深度神经网络的时候须要注意的一些小技巧     1、准备数据:务必保证有大量、高质量而且带有干净标签的数据,没有如此的数据,学习是不可能的微信 2、预处理:这个很少说,就是0均值和1方差化网络 3、minibatch:建议值128,1最好,可是效率不高,可是千万不要用过大的数值,不然很容易过拟合性能 4、梯度归一化:其实就是计算出来梯度以后,要除以minibatch的数量。这个很少解释学习 5
相关文章
相关标签/搜索