梯度下降法中梯度的概念

梯度的概念是从方向导数推倒出来的，沿着梯度的方向，方向导数最大，方向导数的计算方法： 为 ，在点（x，y），沿某个方向的方向导数最大，这个方向就是梯度， 梯度的计算方法： = = 梯度下降法中对于参数的更新公式：                    一次更新完所有参数后，参数改变量的向量相加，即为梯度的方向，参数按照梯度的方向移动，到达局部最优解下降的最快。

>>阅读原文<<