机器学习 【决策树ID3/C4.5/CART+随机森林】 公式推导计算+详细过程 （入门必备）

决策树可用于分类和预测。常见的决策树算法有ID3、C4.5和CART。 信息熵：不确定性的度量，事物越混乱就越不确定，信息熵越小越事物越确定。 信息增益：信息增益越大，事物的不确定性下降的越快，也就是说事物越趋近于确定，信息增益越大不确定性下降越快。 信息增益率：信息增益率越大，事物越确定。 基尼系数：不确定性的度量，事物越混乱就越不确定，基尼系数越小越事物越确定。 信息熵公式 E n t r o

>>阅读原文<<