梯度上升算法和梯度下降算法

转载自：https://www.cnblogs.com/HongjianChen/p/8718988.html 梯度下降算法： w=w-α∇wf(w) 梯度上升算法：w=w+α∇wf(w) 梯度上升算法用来求函数的最大值， 梯度下降算法用来求函数的最小值。 方向导数 当讨论函数沿任意方向的变化率时，也就引出了方向导数的定义，即：某一点在某一趋近方向上的导数值。 导数和偏导数的定义中，均是沿坐标轴正

>>阅读原文<<