机器学习：决策树之信息论基础（信息熵）

决策树之信息论基础 决策树思想的来源非常朴素，程序设计中的条件分支结构就是if-then结构，最早的决策树就是利用这类结构分割数据的一种分类学习方法 理解：决策树 例子：银行贷款数据 这里给了一个例子我们怎么去判断有个用户是否可以给贷款。 我们可以这样划分： 但是决策树的实际划分是： 我们有一个最主要的划分点。那就是房产。 再看一个例子：了解信息的度量和作用 假设这里有32支球队，我们没有任何信息

>>阅读原文<<