优化篇-【归一化】

#【归一化】 1.归一化的概率和作用 1.1 什么是归一化 1.2.归一化的作用 除去量纲的干扰 去均值与归一化，加速梯度下降的求解速度 重新调整数据分布 深度网络中数据分布如果在某一层开始有明显的偏移，会使接下来这一问题加剧 2.常用的归一化 2.1. Batch Normalization 2.2.Batch Normalization的好处 1-减轻了对参数初始化的依赖 2-训练更快，可以使

>>阅读原文<<