第09课：最常用的优化算法——梯度下降法

在这里，我们有必要从抽象角度，先好好解释一下优化算法。 学习的目标 在前面，我们讲到，每一个机器学习模型都有一个目标函数，而学习的目标，就是最小化目标函数。 直观而言，当我们已经获得了一个函数，最小化该函数其实就是，在其自变量取值范围内，找到使得因变量最小的那个自变量取值点。 是不是所有函数都能够在自变量取值范围内找到因变量最小值呢？显然不是。 比如，这个多项式函数：y=x，x 属于实数——这样的

>>阅读原文<<