机器学习金典算法(二)--梯度下降法(2)

机器学习金典算法(二)–梯度下降法        本人上篇博文梯度下降法(1)解释了梯度下降法在机器学习中位置及思想,本文将继续讨论梯度下降法,梯度下降法存在的问题及改进思路,以及现有的几种流行的变种梯度下降法。 目录 1 普通梯度下降法 3 随机梯度下降法 4 标准梯度下降存在的问题 4.1 容易在最优值附近震荡 4.2 局部极小值 4.3 参数调整缓慢 5 学习率衰减 6 动量梯度下降法 7
相关文章
相关标签/搜索