为什么梯度的负方向是梯度下降最快的方向

文章目录 梯度与导数的关系 梯度下降算法 梯度方向是上升方向 一阶泰勒展开式与负梯度 梯度与导数的关系 梯度方向指向数值增长最快的方向，大小为变化率。通过这个性质也说明梯度是有方向和大小的矢量。通过梯度的定义我们发现，梯度的求解其实就是求函数偏导的问题，而我们高中所学的导数在非严格意义上来说也就是一元的“偏导”。通过这一点我们自然而然地想到梯度应该是导数向更高维数的推广。换句话说，梯度是矢量,而某

>>阅读原文<<