深度学习：归一化

深度学习中的归一化 批量归一化 自归一化网络 主要内容与结构 主要内容：归一化问题 结构： 深度模型的激活函数 激活函数导致的梯度消失 sigmoid tanh relu ELU 批量归一化 层输出对下一层的影响 每一层的梯度都与来自前一层的输入有关。避免梯度消失 批归一化+仿射变换层（线性层）：防止将那些本该在平坦区域却被我们归一化变换到梯度不平坦的区域带来的影响；同时保持网络稳定（让输入稳定）

>>阅读原文<<