批归一化 BatchNorm

数据的分布不稳定（不平均）会导致模型不收敛（特别是在数据不均匀时还用大的学习率），所以才会在制作数据集或者对数据集进行预处理时，调整数据分布，使数据分布均匀（比如：正负样本是均匀的，别存在数据集中百分之90都是正样本这种情况）。  标准化也可以应用在中间层中，也就是对feature map做处理，好处见第二个图。 下图为图二：        上图中个Xi冒后面的式子中加了个 一颗丝绒（一个极小值，

>>阅读原文<<