《机器学习实战》学习总结（二）决策树算法原理

概述 决策树分类算法属于有监督类学习算法。 该分类算法需要利用训练数据得到分类模型，然后再对待分类点进行决策分类。 分类模型（决策树）的计算过程如下： 1、计算训练数据的原始熵 2、分析训练数据，得到每个特征及其的可能取值 3、计算按每个特征分类后的熵 4、选择原始熵与每个特征分类后熵差值最大的那个特征作为分类特征     （说明：把一个数据集按某个特征分成多个数据集后，这些数据集的熵一定是小于原

>>阅读原文<<