牛顿法和拟牛顿法

  牛顿法（Newton method）和拟牛顿法（quasi Newton method）是求解无约束最优化问题的常用方法，有收敛速度快的优点。牛顿法是迭代算法，每一步都需求解目标函数的海塞矩阵（Hessian Matrix），计算比较复杂。拟牛顿法通过正定矩阵近似海塞矩阵的逆矩阵或海塞矩阵，简化了这一计算过程。 1、牛顿法 1.1、原理   牛顿法的原理是使用函数 f(x) f ( x ) 的

>>阅读原文<<