局部最小值

https://blog.csdn.net/malefactor/article/details/78768210?utm_source=blogxgwz5 对于神经网络目标函数优化来说，在参数寻优过程中最常用的算法是梯度下降，目前也出现了很多基于SGD基础上的改进算法，比如带动量的SGD，Adadelta，Adagrad，Adam，RMSProp等梯度下降改进方法，这些算法大多都是针对基础更新公

>>阅读原文<<