决策树之基 —— ID3 算法

决策树用来预测的是一个固定的对象，从根到叶节点的一条特定路线就是一个分类规则，决定这一个分类算法和结果。 决策树的生成算法是从根部开始，输入一系列带有标签分类的示例（向量），从而构造出一系列的决策节点。其节点又称为逻辑判断，表示该属性的某个分支（属性），供下一步继续判断，一般有几个分支就有几条有向的线作为类别标记。 决策树的理论基础——信息熵 信息熵指的是对事件中不确定的信息的度量。在一个事件或者

>>阅读原文<<