牛顿法与拟牛顿法学习笔记（四）BFGS 算法

 
 机器学习算法中常常碰到非线性优化问题，如 Sparse Filtering 算法，其主要工做在于求解一个非线性极小化问题。在具体实现中，大多调用的是成熟的软件包作支撑，其中最经常使用的一个算法是 L-BFGS。为了解这个算法的数学机理，这几天作了一些调研，现把学习过程当中理解的一些东西整理出来。
 

目录连接

(1) 牛顿法

(2) 拟牛顿条件

(3) DFP 算法

(4) BFGS 算法

(5) L-BFGS 算法

做者: peghoty 

出处: http://blog.csdn.net/itplus/article/details/21897443

欢迎转载/分享, 但请务必声明文章出处.