机器学习经典算法(三)--指数加权平均

机器学习经典算法(三)–指数加权平均        指数加权平均(Exponentially Weighted Averages)是一些改进梯度下降法重要理论,如上篇博文梯度下降法(2)提到的动量梯度下降法,RMSprop、Adam等都用到了指数加权平均。也叫指数加权移动平均(Exponentially Weighted Moving Averages);那么到底什么是指数加权平均呢? 基础概念
相关文章
相关标签/搜索