决策树知识总结+随机森林(两个随机)

决策树：以树形结构表示决策过程的模型。 常用于分类过程，但也可以用于回归，分类模型时中间节点为属性，叶子节点为类别。 特点： 决策过程可以表示成 If Then 形式. 推理过程完全依赖于属性变量的取值特点 结束条件：a.数据都属于同一类别。b.属性已经用完(此时投票法决定类别) 常用的决策树算法(树的生成过程) ID3算法，采用作为信息增益度度量指标,通过最大化信息增益来选择属性。通过在验证集上

>>阅读原文<<