数值优化（十）

最小二乘方 在最小二乘方问题中，目标函数有如下的形式\[f(x)=\frac{1}{2} \sum_{j=1}^{m}r^2_j(x)\]针对这种特殊的形式，可以采取专门的方法来加速优化。计算其梯度以及Hessian得到\[\nabla f(x) = \sum_{j=1}^m r_j(x)\nabla r_j(x) = J(x)^T r(x)\]\[\nabla^2 f(x) =J(x)^TJ(x

>>阅读原文<<