机器学习入门|梯度下降

梯度：梯度的本意是一个向量（矢量），表示某一函数在该点处的方向导数沿着该方向取得最大值，即函数在该点处沿着该方向（此梯度的方向）变化最快，变化率最大（为该梯度的模）。————百度百科 梯度下降算法本质上就是沿着负梯度方向寻找函数最小值的求解方法 梯度下降法是迭代法的一种，以逐渐逼近解为目的求出解的精确值。牛顿方法也是一种迭代法。 上图是梯度下降的一个直观图像，从某一点开始，沿着下降最快的方向一步一

>>阅读原文<<