滑动平均模型

Maintains moving averages of variables by employing an exponential decay.这是官方的文档解释。 要想理解上面这句话就要知道什么是moving average和exponential decay。下面分别解释一下这两个概念。 exponential decay 在有时学习率的设置时，我们会把学习率设计为指数衰减的，就是让学习率满

>>阅读原文<<