二阶随机优化算法小结

二阶随机优化算法 标签（空格分隔）： L-BFGS NewSample Lissa 最近看了几篇二阶优化算法，现在总结一下，以便日后查阅.就是这样 二阶算法 二阶优化算法又称为牛顿法，牛顿法是微积分学中， 通过迭代以求解可微函数f的零点的一种算法，而在最优化中，牛顿法通常被运用于求解一个二次可微函数f的一阶导数f’的零点x， 同时也是f的驻点。 因此从另一个角度而言，应用于最优化中的牛顿法是求解函

>>阅读原文<<