机器学习-梯度（gradient）与梯度下降（gradient discent）

梯度（gradient）是机器学习中一个重要概念，梯度下降（gradient descent）也是机器学习常用的最优化算法。 一，梯度 我们从导数讲起： 定义： 我们从上面可以直观看出，对于一元函数，导数反映的是函数y=f(x)在某一点处沿x轴正方向的变化率。 然后来看偏导： 定义： 从上面可以看出，偏导数是导数的多元情况。偏导反映的是函数在某一点沿某一坐标轴正方向的变化率。 方向导数： 定义：

>>阅读原文<<