【机器学习－西瓜书】四、决策树：信息熵；信息增益；增益率；ID3；C4.5

推荐阅读：纯度；信息熵；信息增益 关键词： 纯度；信息熵；信息增益；增益率；ID3；C4.5；基尼指数；预剪枝；后剪枝 4.1基本流程 关键词：决策树（decision tree） 决策树是一种分类方法，其优点：计算量小，可解释性强，比较适合处理有缺失属性值的样本以及类别不均衡的数据集。缺点：容易过拟合，数值必须是离散型。 一棵决策树包括：根结点，内部结点和叶结点。整个训练过程就是从根结点出发，经

>>阅读原文<<