直观理解 梯度(gradient)

梯度 在机器学习中,我们通常需要对问题进行建模,然后可以得到一个成本函数(cost function),通过对这个成本函数进行最小化,我们可以得到我们所需要的参数,从而得到具体的模型。这些优化问题中,只有少部分可以得到解析解(如最小二乘法),而大部分这类优化问题只能迭代求解,而迭代求解中两种最常用的方法即梯度下降法与牛顿法。 梯度概念是建立在偏导数与方向导数概念基础上的。所谓偏导数,简单来说是对于
相关文章
相关标签/搜索