机器学习中优化模型预算法（一）

一、最优化问题 1.无约束优化      1.1 必要条件           一阶必要条件：梯度为0           二阶必要条件：二阶hessian矩阵半正定      1.2步长的搜索方法           设当前位置 x k x^k xk，搜索方向为 d k d^k dk，搜索步长 a a a， x k + 1 = x k + a d k x^{k+1}=x^k+ad^k xk+1=

>>阅读原文<<