第十一章 特征选择和稀疏学习

11.1子集搜索和评价 所谓子集搜索就是一个物体有很多属性，但是对当前学习任务来说，可能只有少部分属性是重要的，这叫“相关特征”，没什么用的叫“无关特征”。从特征集中选出“相关特征”叫特征选择。 两个原因要特征选择：维数灾难、降低学习难度。 两个关键环节： 1、如何根据评价结果取获取下一个候选特征子集？ 前向搜索/后向搜索/双向搜索 2、如何评价特征子集好坏？ 计算信息增益。 决策树算法即是吧信息

>>阅读原文<<