树(ID3,C4.5,CART,信息增益,信息增益比,基尼指数)

ID3: 离散特征(标称型数据)、贪心算法、信息增益、特征所有取值切分(非二分) 缺点:有偏向问题,过拟合,只能离散型数据 C4.5: 离散/连续特征(对连续属性扫描排序,设定阈值,二分样本)、信息增益比(引入分裂信息(Split information)的项来惩罚取值较多的Feature)、可剪枝(合并叶节点)、可处理缺失值(可参考缺失值处理) CART: 分类回归树、二元切分、节点分裂可用各种
相关文章
相关标签/搜索