使用R完成决策树分类

关于决策树理论方面的介绍,李航的《统计机器学习》第五章有很好的讲解。 传统的ID3和C4.5一般用于分类问题,其中ID3使用信息增益进行特征选择,即递归的选择分类能力最强的特征对数据进行分割,C4.5唯一不同的是使用信息增益比进行特征选择。 特征A对训练数据D的信息增益g(D, A) = 集合D的经验熵H(D) – 特征A给定情况下D的经验条件熵H(D|A) 特征A对训练数据D的信息增益比r(D,
相关文章
相关标签/搜索