深入理解批标准化(Batch Normalization)

文章目录 0 前言 1 “Internal Covariate Shift”问题 1.1 什么是“Internal Covariate Shift” 2 Batch Norm的本质思想 2.1 本质思想 2.2 将激活输入调整为N(0,1)有何用？ 2.3 存在的一个问题 3 Batch Norm的训练过程 3.1 再Mini-batch SGD下做BN操作 4 Batch Norm的预测过程 4

>>阅读原文<<