【西瓜书笔记二】决策树

一，基本流程 决策树是一类常见的机器学习方法，是基于树结构来进行决策的。决策树学习的目的是为了产生一颗泛化能力强，即处理未见示例能力强的决策树。其基本流程遵循简单而直观的“分而治之”策略，如下所示： 二，划分选择 决策树学习的关键在于如何选择最优划分属性。一般而言，随着划分过程不断进行，我们希望决策树的分支结点所包含的样本尽可能属于同一个类别，即结点的“纯度”越来越高。 1，信息增益 Ent(D)

>>阅读原文<<