统计学习方法——第五章：决策树

决策树 顾名思义。决策树由结点和分支组成，结点分为叶子节点和分支节点，分支节点代表的是分类的标准。叶子节点代表的是分类类别 特征选择 选取对数据具有分类能力的特征 基础知识： 自信息 X如果可以取三个值：x1,x2,x3,概率分别为p1,p2,p3。 那么-log(p1),-log(p2),-log(p3)相应称为x1,x2,x3的自信息，代表了它们各自的不确定性 信息熵 随机变量的不确定性。只依

>>阅读原文<<