集成学习——从决策树到XGBoost（1）决策树算法

现在最火的两种模型，就是基于树的模型和深度学习神经网络模型了，并且，这两种个模型在很多地方，都有异曲同工的相似之处。 XGB和LGB以及由其组成的stacking方法，是kaggle数据挖掘比赛中的大杀器，金牌选手的必选模型。 1.决策树 首先，我们需要介绍一下决策树。 决策树的结构如下图所示 图来自：http://www.javashuo.com/article/p-kfaatezp-mr.ht

>>阅读原文<<