机器学习笔记（九）——决策树的生成与剪枝

1、决策树的生成算法         基本的决策树生成算法主要有ID3和C4.5, 它们生成树的过程大体类似，ID3是采用的信息增益做为特征选择的度量，而C4.5采用信息增益比。构建过程以下：web 从根节点开始，计算全部可能的特征的信息增益（信息增益比），选择计算结果最大的特征。 根据算出的特征创建子节点，执行第一步，直到全部特征的信息增益（信息增益比）很小或者没有特征能够选择为止。 以上算法只

>>阅读原文<<