信息增益与决策树

决策树是一种判别式模型。在一颗分类决策树中，非叶子节点时决策规则，叶子节点是类别。当输入一个特征向量时，按照决策树上的规则从根节点向叶节点移动，最后根据叶节点的类别断定输入向量的类别。决策树也能够用来解决回归问题。html 创建一个决策树模型主要有三个步骤：特征选择、决策树的生成、决策树的剪枝。而特征选择时要用到信息增益这个概念。算法 特征选择：dom 对于一个随机变量X，它的熵能够表示为：机器学

>>阅读原文<<