Batch Norm理解

Batch Norm即批规范化，目的是为了解决每批数据训练时的不规则分布给训练造成的困难。 作用： 网上描述：深度神经网络主要就是为了学习训练数据的分布，并在测试集上达到很好的泛化效果，但是，如果我们每一个batch输入的数据都具有不同的分布，显然会给网络的训练带来困难。经过一层层网络计算后，数据分布在不断发生着变化，此现象称为Internal Covariate Shift，进行BN能够解决这一

>>阅读原文<<