梯度下降法(GD)与随机梯度下降法(SGD)的理解

引言: 在深度学习的任务目标中，通常我们希望我们的学习结果能够在损失函数上得到一个较好的结果，即朝着损失函数最小的方向前进。但是对于大部分深度学习任务而言， 接下来我会用比较通俗易懂的语言来介绍GD、SGD 下一篇：通俗易懂理解（梯度下降）优化算法：Momentum、AdaGrad、RMSProp、Adam 梯度下降法(gradient descent)： 1. 数学理解 首先我们知道梯度方向是函

>>阅读原文<<