动手学深度学习Pytorch版本学习笔记 Task 06

1.批量归一化和残差网络 1.1批量归一化（BatchNormalization） 1.1.1对输入的标准化（浅层模型） 处理后的任意一个特征在数据集中所有样本上的均值为0、标准差为1。 标准化处理输入数据使各个特征的分布相近 1.1.2批量归一化（深度模型） 利用小批量上的均值和标准差，不断调整神经网络中间输出，从而使整个神经网络在各层的中间输出的数值更稳定。 1.1.3对全连接层做批量归一化

>>阅读原文<<