牛顿法及拟牛顿法笔记

牛顿法 二阶优化算法又称为牛顿法，牛顿法是微积分学中， 通过迭代以求解可微函数f的零点的一种算法，而在最优化中，牛顿法通常被运用于求解一个二次可微函数f的一阶导数f’的零点x， 同时也是f的驻点。 因此从另一个角度而言，应用于最优化中的牛顿法是求解函数 f(x)的最小值或最大值的一种算法。 考虑无约束最优化问题 minx∈Rnf(x) m i n x ∈ R n f ( x ) 其中 x∗ x ∗

>>阅读原文<<