算法强化 —— 提升树算法(二)

梯度提升树 梯度提升树,是利用损失函数的负梯度在当前模型的值作为残差的一个近似值,进行拟合回归树,这样只要可以求梯度的函数,我们都可以进行求解。 为了简便去掉求和符号和下标,改用向量化表示,则损失函数为: loss = L ( y , f m ( x ) ) = L ( y − f m − 1 ( x ) − h m ( x ; a m ) ) \text {loss}=L\left(y_, f_
相关文章
相关标签/搜索