Gradient Boosting Decision Tree (GBDT)

GBDT也是集成学习Boosting家族的成员，Boosting是各个基学习器之间有很强的依赖关系，即串行。GBDT限定了基学习器只能使用CART回归树。 树模型的优缺点： GBDT是一个加法模型，采用前向分步算法进行求解。假设前一轮得到的模型是 ft−1(x) f t − 1 ( x ) ，损失函数是 L(y,ft−1(x)) L ( y , f t − 1 ( x ) ) ，本轮迭代的目标是

>>阅读原文<<