用Python实现最速降低法求极值

对于一个多元函数 f(x)=f(x1,x2,⋯,xn) ，用最速降低法（又称梯度降低法）求其极小值的迭代格式为 css xk+1=xk+αkdk 其中 dk=−gk=−∇f(xk) 为负梯度方向，即最速降低方向， αk 为搜索步长。python 通常状况下，最优步长 αk 的肯定要用到线性搜索技术，好比精确线性搜索，可是更经常使用的是不精确线性搜索，主要是Goldstein不精确线性搜索和Wolf

>>阅读原文<<