吴恩达deeplearning.ai《改善深层神经网络：超参数调试、正则化以及优化》-优化算法（二）

mini-batch梯度下降 在大数据等数据量大的时候，使用深度学习会导致很长的计算时间。故我们引用了一些优化算法，提高算法运行效率。 mini-batch梯度下降将数据集分为t个子集。每一个子集分别进行梯度下降。 理解mini-batch梯度下降 batch梯度下降的图像如图左图所示，mini-batch梯度下降的图像如图右图所示 可见mini-batch梯度下降的曲线并非光滑下降的。因为不同的

>>阅读原文<<