梯度下降法 Gradient Descent

梯度下降法求解最小值过程概述: 在一个可微的光滑曲面上随机选取一个点,然后通过不断的迭代计算,使这个点移动的每一步都向着梯度方向(即下降最快的方向),最终到达局部极小值点,之后通过多次随机取点进行同样的计算,即可找出最小值点。 那么我们为什么不直接求解最小值点,而是通过迭代的方法一步一步来求解呢? 实际上机器学习所要求的非线性方程一般很难求得数值解,而且在实际应用中也没有必要求得精确的数值解,往往
相关文章
相关标签/搜索