BDT(提升树)GBDT(梯度提升树)

BDT(提升树 Boosting Decision Tree) 提升树是以CART决策树为基学习器的集成学习方法 提升树实际上就是加法模型和前向分布算法，将其表示为： 在计算前向分布算法第m步时，给定当前的模型fm-1(x)，求解： 这样就得到第m颗决策树T。不同问题的提升树区别在于损失函数不同，如分类用指数损失函数，回归用平方误差损失。 当提升树采用平方损失函数时，第m次迭代时表示： r为残差，

>>阅读原文<<