梯度降低法

梯度降低分类 批梯度降低法（BGD)：使用整个数据集全部的样本获得的loss对每一个参数进行更新； 随机梯度降低法（SGD)：使用一个数据样本获得loss对每一个参数更新； 小批量梯度降低法（MBGD)：使用M个样本获得的loss对每一个参数更新； 注意：对于全部的梯度降低方法，若是问题不是凸问题那么全部的方法都有可能陷入局部最小值，不必定能获得全局最优值。 批梯度降低法 定义：批梯度降低法首先对

>>阅读原文<<