机器学习算法中的几个疑难杂症点(8)----ID3算法的缺陷

本文主要来讨论一下决策树中ID3算法的缺陷,以及为什么倾向于特征选择项较多的特征. 文章目录 一、ID3 算法的缺点: 1、考虑不全面 2、原理缺陷 二、ID3 算法为什么要选择特征多的属性: 参考文档 一、ID3 算法的缺点: 1、考虑不全面 (1)没有考虑连续特征.只对于离散型特征进行信息增益的比较,极大的限制了ID3的用途. (2)没有考虑到缺失值的情况. (3)没有考虑过拟合问题.因为决策

>>阅读原文<<