最小二乘优化整理（信赖域方法）

信赖域方法和线搜索类似都是迭代方法，与其不同的是，每次迭代时，在一个选定的可信赖区域内，选择当前迭代点的近似模型 mkmk ，然后计算最优步长；如果步长不合适，可以对区域进行缩放。该小结主要介绍： 信赖域方法的基本形式 求解信赖域的基础方法 信赖域方法的收敛性和收敛速度 信赖域方法的扩展 信赖域方法的基本形式 在信赖域方法中，可信赖的区域（Region）的选择很重要，一般都会根据上一步结果进行动态

>>阅读原文<<