梯度下降、牛顿法、拟牛顿法比较

  梯度下降、牛顿法、拟牛顿法     目录(?)[-] 梯度下降 牛顿法 拟牛顿法   介绍   在向量微积分中，标量场的梯度是一个向量场。标量场中某一点上的梯度指向标量场增长最快的方向，梯度的长度是这个最大的变化率。更严格的说，从欧几里得空间Rn到R的函数的梯度是在Rn某一点最佳的线性近似。 在判别式模型中，我们往往需要学习参数，从而使得我们的模型f(x)可以逼近实际的y。如果学习参数，则通常

>>阅读原文<<