线性收敛的随机优化算法之 SAG、SVRG（随机梯度降低）

原文出处：https://zhuanlan.zhihu.com/p/22402784?utm_source=tuicool&utm_medium=referral算法 这篇文章回顾了基于梯度的随机优化算法在这几年的重要发展 -- SAG、SVRG。网络 不少常见的机器学习模型的目标（好比最小二乘作线性回归、逻辑回归）均可以归纳成如下这种通常形式：机器学习 其中 表明样本的损失函数，是模型的参数，表

>>阅读原文<<