什么状况下用标准梯度降低法，什么状况下用随机梯度降低法

       若是仅从测试偏差出发，标准梯度降低的效果会比随机梯度降低要好。可是标准梯度降低的训练时间会比随机梯度降低要长。像线性回归这种简单的模型，训练时间的优先级不高，因此用标准梯度降低会比随机梯度降低要好。像神经网络这种复杂的模型，训练时间的优先级比较高，因此用随机梯度降低比较好。若是模型的损失函数是凸函数，那么使用标准梯度降低必定能达到全局最优。若是模型比较复杂，容易进入局部最优，那么使用

>>阅读原文<<