机器学习之决策树与随机森林

决策树（decision tree）是一种基本的分类与回归方法，本文主要讨论用于分类的决策树。决策树学习通常包括三个步骤：特征选择，决策树的生成和决策树的修剪。而随机森林则是由多个决策树所构成的一种分类器，更准确的说，随机森林是由多个弱分类器组合形成的强分类器。 目录 一、信息论知识 1.信息熵的概念 2.条件熵 3.相对熵 4.互信息 5.几个量之间的关系 二、决策树 1.引入 2.决策树的生成

>>阅读原文<<