常见的优化方法总结(GD,SGD,SAG,SVRG,BFGS)

机器学习中常用的优化方法.................MARK.....................持续更新 写在最前面:这篇文章是所有常见优化方法的一个总结,因此你看起来可能会很乱,我已经把一些比较好的文章都在每部分提出(红色链接),读者可以先参考一下这些文章再来看本文。参考文章写的都很清晰。 梯度下降法: 1.随机梯度下降法(每次只选取一个样本来代替当前的梯度值) 2.批量梯度下降法(
相关文章
相关标签/搜索