机器学习之--梯度下降算法

貌似机器学习最绕不过去的算法，是梯度下降算法。这里专门捋一下。 1. 什么是梯度 有知乎大神已经解释的很不错，这里转载并稍作修改，加上自己的看法。先给出链接，毕竟转载要说明出处嘛。为什么梯度反方向是函数值局部下降最快的方向？ 因为高等数学都忘光了，先从导数/偏倒数/方向导数，慢慢推出梯度吧。 1.1 导数 导数的几何意义可能很多人都比较熟悉: 当函数定义域和取值都在实数域中的时候，导数可以表示函数

>>阅读原文<<