Batch Normalization(BN)的简单介绍

Batch Normalization(BN)介绍 BN目的： 令一批（batch）数据对应的feature map的每一个维度（每一个channel）满足均值为0，方差为1的分布规律，通过该方法能够加速网络的收敛并提升准确率。 BN算法的步骤以及参数求解 μ,σ 是在正向传播过程中统计得到 γ,β 是在反向传播过程中训练得到 使用BN算法应该注意的问题： 1. 训练时要将traning参数设置为

>>阅读原文<<