2.2.3 动量梯度下降法

动量梯度下降法 我们现在介绍一下Momentum梯度下降法，运行速度快于标准的梯度下降法。其基本思想就是计算梯度的指数加权平均数，并利用该梯度来更新权重。 如图所示，图中蓝色的代表batch或者mini-batch的梯度下降法，很可能这种梯度下降法的逼近就是以这种形式来逼近的。这种上下波动减慢了梯度下降法的更新速度。使你无法用更大的学习率。如果用更大的学习率可能就如图中紫色线条所示，偏离了学习范围

>>阅读原文<<