深度学习---之梯度为什么垂直于等高线

为什么梯度的方向与等高线切线方向垂直？ 2017-07-12 22:48 为什么梯度的方向与等高线切线方向垂直 在三维曲面上的梯度更新过程中，很多地方出现梯度的下降方向是如下这样走的： 图片来源于百度百科 从图上能够看出，也经常听老师同学说起，梯度下降的方向与等高线的切线方向垂直。 那么为什么会垂直呢？其实是一个高数问题。 解释 假设我们的损失函数为z=f(x,y)，在几何上表示是一个曲面，该曲面

>>阅读原文<<