实习点滴（8）--收敛优化方法：牛顿法、BFGS算法与L-BFGS算法

        在了解CRF推导与参数估计的时候，会用到收敛优化方法去迭代求解凸优化问题，至此，总结一下我对牛顿法、BFGS算法和L-BFGS算法这三种方法的理解。      牛顿法：         方法思想：在现有极小点估计值附近对f(x)做二阶泰勒展开式，进而找到下一个极小点估计值。         设：xk为当前极小点估计值， 我们要去求这个函数的最值，则二阶泰勒展开式为：        

>>阅读原文<<