深度学习之Batch Normalization

转载自http://www.javashuo.com/article/p-bzmrwcap-v.html Batch Normalization(批量标准化,简称BN)是近些年来深度学习优化中一个重要的手段。BN能带来如下优点: 加速训练过程; 可以使用较大的学习率; 允许在深层网络中使用sigmoid这种易导致梯度消失的激活函数; 具有轻微地正则化效果,以此可以降低dropout的使用。   但
相关文章
相关标签/搜索