【深度学习】梯度下降优化方法

参考：https://www.jianshu.com/p/e52a256cb86d 普通的梯度学习方法分为三种，即常见的 Batch gradient descent 、Stochastic gradient descent、Mini-batch gradient descent 存在的问题： 1  选择一个合理的学习速率很难。如果学习速率过小，则会导致收敛速度很慢；如果学习速率过大，那么就会阻碍

>>阅读原文<<