决策树-剪枝算法（二）

From http://www.cnblogs.com/starfire86/p/5749334.html 上一章主要描述了ID3算法的的原理，它是以信息熵为度量，用于决策树节点的属性选择，每次优选信息量最多 的属性，以构造一颗熵值下降最快的决策树，到叶子节点处的熵值为0，此时每个叶子节点对应的实例集中的实例属于同一类。 理想的决策树有三种： 1.叶子节点数最少 2.叶子加点深度最小 3.叶子节点

>>阅读原文<<