最优化理论3-牛顿法

回顾 在讲解牛顿法之前我们先回顾一下最速梯度下降法，泰勒展开与Hessian矩阵之间的关系。 泰勒展开 对于一元函数 f ( x ) f(x) f(x)，在 x x x处的泰勒展开为： f ( x + σ ) = f ( x ) + f ′ ( x ) σ + 1 2 f ′ ′ ( x ) σ 2 + . . . . . . f(x+\sigma)=f(x)+{f}'(x)\sigma+\fra

>>阅读原文<<