optimizer 性能对比

在线性回归或者监督学习中，我们会计算预测值与真实值之间的差距，也就是loss。 在计算得出loss之后，通常会使用Optimizer对所构造的数学模型/网络模型进行参数优化， 通常情况下，优化的最终目的是使得loss趋向于最小。 下面是几种Optimizer模型参数优化算法对比：

>>阅读原文<<