决策树-GBDT-RF-Xgboost

决策树算法有很多良好的特性，比如可以直观的展示模型，适用于非线性分类等。但是单决策树容易过拟合，于是人们采用剪枝的办法来尽量减少这种情况。后来出现将模型组合（boosting，bagging）与决策树结合，使几百颗简单的决策树组合在一起，组合后的分类器很强大，不容易过拟合。常见的两种基本形式有GBDT和随机森林（RF）。而xgboost是eXtreme Gradient Boosting，xgbo

>>阅读原文<<