凸优化第九章无约束优化 9.3梯度下降方法

9.3梯度下降方法 梯度下降方法 例子 梯度下降方法 用负梯度做搜索方向，即令，这种下降方法称为梯度下降方法： 给定初始点 重复进行 直线搜索：通过精确或回溯直线搜索方法确定步长t 修改： 直到满足停止条件 停止准则通常取为：，其中是小正数。一般情况下步骤１１完成后就检验停止条件而不是在修改后才检验。 例子 空间的二次问题 考虑上的二次目标函数：，显然最优点是。f的海瑟矩阵是常熟，其特征值是１和，

>>阅读原文<<