机器学习-决策树(ID3)

小白-学决策树 什么是决策树？决策树是一种基本的分类和回归方法。 决策树主要有3种算法结构，ID3决策树-信息增益(Information Gain)，C4.5决策树-增益率(gain ratio)，CART决策树-基尼指数(gini index)。 首先我们先来介绍ID3决策树，这里要介绍一下“信息熵”。信息熵是判断样本集合纯度的一种指标。      其中y代表多少个类，Ent(D)的值变小，则

>>阅读原文<<