熵和基尼系数

CART     Classification & Regression Tree 1.熵（entropy）  熵是表示随机变量不确定性的度量。设XX是一个取有限个值的离散随机变量，其概率分布为 对于一个取有限个值的随机变量X，如果其概率分布为：  P(X=xi)=pi,i=1,2,⋯,n 那么随机变量X的熵可以用以下公式描述：                      H(X)=−∑i=1npi

>>阅读原文<<