Deep learning II - II Optimization algorithms - Exponentially weighted averages 指数加权平均

Exponentially weighted averages 指数加权平均 指数加权平均指的是通过综合当前点之前的数据和该点数据，通过调整加权值，来得到需要的值的技术。 Vt=βVt−1+(1−β)θt V t = β V t − 1 + ( 1 − β ) θ t 当 β β 接近于1时（0.98），当前点的值 Vt V t 更加依赖于之前的数值 Vt−1 V t − 1 而不是 θt θ t

>>阅读原文<<