机器学习中的数学之梯度下降法

首先从一个简单的二次曲线     求极小值开始  先任意取一个A点，对应一个横轴   但是这不是最低点。所以我们要想办法慢慢降低点的位置，让他去接近最低点。如何才能保证改变  的值得到新的    。然后  对应的函数值是小于  对应的函数值呢？第一个问题是 改变x的值让y值变小。但是我们不知道x是该增大还是变小。所以我们考虑斜率。如果当前x点的斜率为正值那么自变量与函数值是同等方向变化，即y值变小

>>阅读原文<<