为什么说梯度的反方向是函数下降最快的方向

    梯度在机器学习和深度学习中是一个高频词汇，弄懂梯度的概念对梯度下降，反向传播的理解有很大帮助。这里我根据个人理解，对梯度的反方向是函数下降最快的方向这一观点进行解释。限于作者水平，难免有错误之处，欢迎批评指正。 导数     说到梯度，就不可避免的要谈导数。对于单变量函数 f ( x ) f(x) f(x)在点 x 0 x_0 x0​处连续，则函数 f ( x ) f(x) f(x)在点

>>阅读原文<<