Group Normalization

理解论文   Group Normalization  摘要 1.在batch dimension上normalizing存在问题：由于批量统计估计不准确，批量越小，BN的误差越大。  2.提出了一种简单的BN的替代品：Group Batchnormalization（GN）。 3.GN将通道划分为多个组，并在每个组内计算平均值和方差以进行归一化。 GN的计算与batch sizes无关，在较宽的

>>阅读原文<<