梯度反方向是函数值局部下降最快的方向

很多机器学习的训练算法都是利用梯度下降，朝着梯度的反方向变动，函数值下降最快。 导数 导数可以表示函数曲线上的切线斜率。 除了切线的斜率，导数还表示函数在该点的变化率。 导数代表了在自变量变化趋于无穷小的时候，函数值的变化与自变量变化的比值代表了导数，几何意义有该点的切线。物理意义有该时刻的（瞬时）变化率。 在一元函数中，只有一个自变量变动，也就是说只存在一个方向的变化率，这也就是为什么一元函数没

>>阅读原文<<