牛顿法， Jacobian矩阵 和 Hessian矩阵

牛顿法 主要有两方面的应用： 求方程的根； 求解最优化方法； 为什么要用牛顿法求方程的根？ 问题很多，牛顿法 是什么？目前还没有讲清楚，没关系，先直观理解为 牛顿法是一种迭代求解方法（Newton童鞋定义的方法）。 扩展到最优化问题 这里的最优化 是指非线性最优化，解非线性最优化的方法有很多，比如 梯度下降法、共轭梯度法、变尺度法和步长加速法 等，这里我们只讲 牛顿法。 其中H是hessian矩阵

>>阅读原文<<