深度学习中的正则化处理Normalization

Normalization Batch Normaliation 批标准化处理，批：指一批数据，通常为mini-batch；标准化：0均值，1方差。 可以用更大学习率，加速模型收敛 可以不用精心设计权值初始化 可以不用dropout或者较小的dropout 可以不用L2或者较小的Weight decay 可以不用LRN（local response normalization） 计算式 其中，no

>>阅读原文<<