常见机器学习模型（二）——决策树与随机森林

决策树与随机森林并不能算得上是一种模型，它只能说是一种方法。常见的决策树算法有C4.5、ID3和CART。先来看一些预备知识。 信息、熵、信息增益、基尼系数 信息 通信领域的里程碑式的人物香农提出：信息是用来消除随机不确定性的东西。这句话你可以倒过来理解：用来消除随机不确定性的东西才叫信息，否则你说一个确定的东西就不叫信息了。 对于机器学习中的决策树而言，如果待分类的事物集合可以划分为多个类别当中

>>阅读原文<<