牛顿法与拟牛顿法

作者: peghoty  出处: http://blog.csdn.net/itplus/article/details/21896453 补充： 牛顿下降法 优点：对于正定二次函数，迭代一次，就可以得到极小值点。下降的目的性更强。 缺点：要求二阶可微分；收敛性对初始点的选取依赖性很大；每次迭代都要计算Hessian矩阵，计算量大；计算Dk时，方程组有时奇异或者病态，无法求解Dk或者Dk不是下降方

>>阅读原文<<