Numerical Optimization之Nonlinear Equations

对于局部方法，当接近最优点时，才保证收敛。单位步长。 全局方法采用线搜索或信赖域方法 1 局部方法 1.1 牛顿方法 如上图，求解非线性方程组的根类似于求解无约束问题中的最优值，最优值在稳定点取到。 非精确牛顿法任然是local 的算法，没有使用精确的线搜索 不精确牛顿法余量不超过一个上界 1.1.2 Broyden’s Method 利用 B k B_k Bk​近似雅可比，不要求其对称 推导如下

>>阅读原文<<