3_决策树算法梳理

信息论基础（熵 联合熵 条件熵 信息增益 基尼不纯度） • 定义：分类决策树模型是一种描述对实例进行分类的树形结构(可以是二叉树或非二叉树). 其中内部节点（非叶子节点）表示一个特征或属性，叶子节点表示一个类.【或者说，内部节点是每个非叶节点表示一个特征属性上的测试，每个分支代表这个特征属性在某个值域上的输出，而每个叶节点存放一个类别】 ！决策过程！ 使用决策树进行决策的过程就是从根节点开始，测试

>>阅读原文<<