深度学习笔记(2)：2.3|2.4 指数加权平均及理解 | 2.5 指数加权平均的偏差修正

接下来介绍一些比梯度下降法计算速度更快的优化算法。 2.3  指数加权平均 为了更好地介绍这些优化算法，这里先介绍一个概念----指数加权平均(exponentially weighted averages)，全称为指数加权移动平均(exponentially weighted moving averages)。 下图展示的是伦敦一年温度的例子，散点图如下图所示。 对该数据拟合曲线，假设V0=0，

>>阅读原文<<