机器学习——决策树和随机森林

目录 熵 信息熵 条件熵 相对熵（KL散度） 交叉熵 决策树 ID3 信息增益 C4.5 信息增益率 CART树 基尼指数 决策树（decision tree）是一种基本的分类与回归方法，决策树模型呈树形结构，在分类问题中，表示基于特征对实例进行分类的过程。它可以认为是if-then规则的集合，也可以认为是定义在特征空间与类空间上的条件概率分布，其主要优点是模型具有可读性，分类速度快。决策树学习通

>>阅读原文<<