ElitesAI·动手学深度学习PyTorch版Task06打卡

批量归一化和残差网络 批量归一化（BatchNormalization） 批量归一化（深度模型） 利用小批量上的均值和标准差，不断调整神经网络中间输出，从而使整个神经网络在各层的中间输出的数值更稳定。 1.对全连接层做批量归一化 位置：全连接层中的仿射变换和激活函数之间。 2.对卷积层做批量归⼀化 位置：卷积计算之后、应⽤激活函数之前。 如果卷积计算输出多个通道，我们需要对这些通道的输出分别做批量

>>阅读原文<<