机器学习——基于基尼指数构建决策树

用信息增益来构建决策树感觉计算量好大啊，下面介绍新的一种构建决策树的方法 首先我要引入两个新的概念：基尼系数和基尼指数 基尼系数的作用和信息熵的作用相同，都是用来度量数据集的纯度的，公式如下： Pk指的是在数据集中，取得正例的比例，pk'=1-pk Gini（D）的值越小说明，数据的纯度越高，例如，给出一些西瓜的数据集，这些数据的西瓜都是好瓜，则说明，pk=1，从而得到Gini（D）=0. 那么怎

>>阅读原文<<