【DL-CV】更高级的参数更新/优化（一）

后续【DL-CV】更高级的参数更新/优化（二）算法 【DL-CV】正则化，Dropout<前篇---后篇>【DL-CV】浅谈GoogLeNet（咕咕net）segmentfault 原版SGD的问题 原味版的SGD（如下称SGD）是经过死跟负梯度方向来对参数进行更新的，也就是走一步、停下肯定方向、再走一步，如此循环。很是简单，很是老实的走法不是麽？可是SGD这个相对简单的算法在实际使用中仍是会产生

>>阅读原文<<