看看拟牛顿法

拟牛顿法 主要是针对无约束最小化问题的。 这里求导其实是把右边项看作 x x x 的函数，只对 x x x 求导， x k x_k xk​ 看作常数项。 昨天刚看到的 line search: 注意这里我们取了上一次 x k x_k xk​ 的值，做了类似于差分的效果。 一个矩阵小 trick Sherman-Morrison公式 设 A ∈ R n A \in R^n A∈Rn 为非奇异方阵，

>>阅读原文<<