《数据挖掘导论》实验课——实验3、数据挖掘之决策树

实验3、数据挖掘之决策树

1、实验目的

1. 熟悉掌握决策树的原理，

2. 熟练掌握决策树的生成方法与过程

2、实验工具

1. Anaconda

2. sklearn

3. pydotplus

3、实验简介

决策树是一个非参数的监督式学习方法，主要用于分类和回归。算法的目标是经过推断数据特征，学习决策规则从而建立一个预测目标变量的模型。

4、实验内容

1. 本身建立至少2个向量，每一个向量至少1个属性和1个类标号，根据向量生成决策树，并利用该决策树进行预测。如：

from sklearn import tree X = [[0, 0], [1, 1]] Y = [0, 1] clf = tree.DecisionTreeClassifier() clf = clf.fit(X, Y) clf.predict([[2., 2.]]) clf.predict_proba([[2., 2.]]) #计算属于每一个类的几率

要求根据要求随机生成数据，并构建决策树，并举例预测。

2. 对鸢尾花数据构建决策树，

(1) 调用数据的方法以下：

from sklearn.datasets import load_iris iris = load_iris()# 从sklearn 数据集中获取鸢尾花数据。

(2) 利用sklearn中的决策树方法对鸢尾花数据创建决策树
(3) 为了可以直观看到建好的决策树，安装 pydotplus, 方法以下：

pip install pydotplus

pydotplus使用方法

import pydotplus #引入pydotplus dot_data = tree.export_graphviz(clf, out_file=None) graph = pydotplus.graph_from_dot_data(dot_data) graph.write_pdf("iris.pdf")#将图写成pdf文件

代码展现

决策树效果pdf

(4)（选作） 不使用sklearn中的决策树方法，本身编写决策树构建程序（建议用python语言），并对鸢尾花数据构建决策树。

5、实验总结（写出本次实验的收获，遇到的问题等）

经过本次实验，了解了Python中构建决策树的函数方法，并用鸢尾花数据集的可视化看到了生成的决策树效果图。困难在于不太理解决策时具体的构建过程，通过屡次试验，自动构建的决策树和本身预测的规律结果是保持一致的，这说明了决策树的实用性。下一步应该学习理解本身构建出决策树。