机器学习--分类算法--决策树算法理论

一 信息量 1 信息量是指一个事件所蕴含的信息量大小 2 信息量的度量 1）熵 相关公式 熵的性质 2）基尼系数 基尼系数的相关公式 基尼系数的性质 3）错误率 二 算法原理 1 决策树构造关键是选择特征属性以及分裂特征属性（树结构） 2 决策树构建过程是一种递归过程，所以必须给定停止条件，否则过程不会停止 三 算法评价标准 1 方式一 分类算法常用的混淆矩阵 2 方式二 叶子节点的不纯度总和（决

>>阅读原文<<