牛顿法(Newton's Method) 解决优化问题——机器学习

一、简介 牛顿方法同梯度下降法一样,是一种优化算法,其应用如可解决logistic回归于分类问题中的似然函数最大化。 其是一种用于求函数零点的数值方法。 二、具体形式 首先选择一个与零点相近的起始点,之后遵循以下更新规则不断更新: 实际上,对于f(x)上的一个点(x0,f(x0)),求过此点切线(即斜率为f'(x0))与x轴的交点,即解以下方程 若原先的点x0记作xn,新得到的点x记为xn+1,那
相关文章
相关标签/搜索