ID3决策树的算法原理与python实现

1. 引言 决策树从本质上是从训练数据集上训练处一组分类规则，彻底依据训练数据，所得规则容易发生过拟合，这也是决策树的缺点，不过能够经过决策树的剪枝，来提升决策树的泛化能力。由此，决策树的建立可包括三部分：特征选择、决策树的生成以及决策树的剪枝；决策树的应用包括：分类、回归以及特征选择。 决策树最经典的算法包括：ID三、C4.5以及CART算法，ID3与C4.5算法类似，C4.5在特征选择时选用的

>>阅读原文<<