三张简图搞懂GBDT

首先假设你有初步的了解什么是决策树，CART树，集成，Adaboost, boosting的一些概念。 下面我们先了解什么是提升树   都知道，在每个基分类器（CART树）生成的过程，有一个最小化损失函数的步骤，那么对于回归树来说，当我们使用的损失函数是平方损失误差的话，来看看是什么情况： （注意图片上的标注红字） 看了红字，我觉得大家应该能理解有些书上说的残差，拟合什么的了。   搞懂了提升树，

>>阅读原文<<