BN和Dropout在训练和测试时的差别

Batch Normalization BN，Batch Normalization，就是在深度神经网络训练过程中使得每一层神经网络的输入保持相近的分布。 BN训练和测试时的参数是一样的嘛？ 对于BN，在训练时，是对每一批的训练数据进行归一化，也即用每一批数据的均值和方差。 而在测试时，比如进行一个样本的预测，就并没有batch的概念，因此，这个时候用的均值和方差是全量训练数据的均值和方差，这个可

>>阅读原文<<