神经网络优化算法选择

优化算法 解决优化问题，有不少算法（最多见的就是梯度降低），这些算法也能够用于优化神经网络。每一个深度学习库中，都包含了大量的优化算法，用于优化学习速率，让网络用最快的训练次数达到最优，还能防止过拟合。 keras中就提供了这样一些优化器[1]：html SGD：随机梯度降低 SGD+Momentum: 基于动量的SGD（在SGD基础上作过优化） SGD+Nesterov+Momentum：基于动

>>阅读原文<<