机器学习算法之 决策树 decision tree

决策树 decision tree 算法原理： 构造一个决策树，即通过特征构造一个树，如下图。沿着树结构访问树节点直到得到数据的分类结果。构造树时先找出一个决定性的特征，这个特征把数据分为几个数据子集，即分支节点，如果分支节点的数据全部属于同一类，那么这个分类已结束，否则再进步分类。找出这个最佳（决定性的）特征很重要， 采用香浓熵来找到这个特征。 信息增益和熵。 香浓熵（也叫信息熵），表示混杂程度

>>阅读原文<<