初级任务三 决策树算法梳理

信息论基础（熵 联合熵 条件熵 信息增益 基尼不纯度） 熵：描述一个时间的不确定性 联合熵：A与B同时发生的信息熵 条件熵：在A发生的情况下B发生的信息熵 信息增益：Gain为A为特征对训练数据集D的信息增益，它为集合D的经验熵H(D)与特征A给 定条件下D的经验条件熵H(D|A)之差 基尼不纯度：基尼不纯度,是指将来自集合中的某种结果随机应用在集合中，某一数据项的预期误差率 2.决策树的不同分类

>>阅读原文<<