信赖域（Trust Region）

信赖域算法TR可以用来求解非线性规划问题（NLP, NonLinear Programing），比如含二次项问题的优化求解，但其实它跟线搜索方法一样，大量形式的优化问题都可以通过泰勒展开为（1）的形式，进而可以采用TR方法，不足之处是 ∇2f Hessian矩阵的计算比较耗时和占内存： f(xk+p)=fk+∇fTkp+12pT∇2f(xk+tp)p, t∈(0,1)(1) 求解过程中，第k步，我

>>阅读原文<<