梯度上升法和梯度下降法中的梯度是什么

在一元一次函数中，函数的斜率可以代表函数在y方向上的变化率，如下图，函数的斜率为0.5，当 变化1，那么变化0.5. 换一种方式来想，当前这条线和x轴的夹角为β，斜率其实是，其实可以理解为当  发生变化时变化的方向  便是 乘以一个角度 β 的 tan 值。 另外，斜率其实就是我们对函数  中的 求导。    基于以上，我们假设系数向量 ，最终激活函数的输入 ，我们要采取最优化方法来对系数进行确定

>>阅读原文<<