浅谈决策树

最近要学习xgboost，感觉之前对关于决策树的知识有些淡忘，因此写一份笔记，加深印象。 1. 决策树模型 决策树是一种基本的分类与回归方法，其模型呈现树形结构，既可以认为是if-then规则的集合，也可以认为是定义在特征空间与类空间上的条件概率分布。学习时，利用训练数据，根据损失函数最小化的原则建立决策树模型；预测时，对新的数据，利用决策树模型进行分类。决策树的学习通常包括3个步骤：特征选择，决

>>阅读原文<<