GBDT梯度提升树算法原理小结(三)

首先我们回顾一下Gradient Boosting 的本质,就是训练出,使损失函数最小,即 其求解步骤如下: 所以,我们首先得定义出损失函数,才能谈求解的事情。接下来我们针对不同场景,介绍相应的损失函数。 回归 对于回归问题,定义好损失函数后,Gradient Boosting 不需要作出什么修改,计算出来的结果就是预测值。 平方损失 在实际回归中,最常用的之一,就是平方损失,即 将它画出来,形状
相关文章
相关标签/搜索