【非线性最小二乘】梯度下降法，牛顿法、高斯-牛顿迭代法

---------------------梯度下降法------------------- 梯度的一般解释： f(x)在x0的梯度：就是f(x)变化最快的方向。梯度下降法是一个最优化算法，通常也称为最速下降法。 假设f(x)是一座山，站在半山腰，往x方向走1米，高度上升0.4米，也就是说x方向上的偏导是 0.4；往y方向走1米，高度上升0.3米，也就是说y方向上的偏导是 0.3；这样梯度方向就是

>>阅读原文<<