【deeplearning.ai笔记第二课】2.4 batch normalization

1. batch normalization介绍 批标准化(batch normalization) 是优化深度神经网络中最激动人心的最新创新之一。实际上它并不是一个优化算法,而是一个自适应的重参数化的方法,试图解决训练非常深的模型的困难。 说的通俗点,实际上就是BN就是在对每一个隐藏层的输出 Zi 做标准化。 非常深的模型会涉及多个函数或层组合。这使得我们很难选择一个合适的学习率,因为某一层中参
相关文章
相关标签/搜索