使用Python进行描述性统计

时间 2019-11-08

原文原文链接

1 描述性统计是什么？
2 使用NumPy和SciPy进行数值分析
　　2.1 基本概念
　　2.2 中心位置（均值、中位数、众数）
　　2.3 发散程度（极差，方差、标准差、变异系数）
　　2.4 误差程度（z-分数）
　　2.5 相关程度（协方差，相关系数）
　　2.6 回顾
3 使用Matplotlib进行图分析
　　3.1 基本概念
　　3.2 频数分析
　　　　3.2.1 定性分析（柱状图、饼形图）
　　　　3.2.2 定量分析（直方图、累积曲线）
　　3.3 关系分析（散点图）
　　3.4 探索分析（箱形图）
　　3.5 回顾
4 总结
5 参考资料app

1 描述性统计是什么？

　　描述性统计是借助图表或者总结性的数值来描述数据的统计手段。数据挖掘工做的数据分析阶段，咱们可借助描述性统计来描绘或总结数据的基本状况，一来能够梳理本身的思惟，二来能够更好地向他人展现数据分析结果。数值分析的过程当中，咱们每每要计算出数据的统计特征，用来作科学计算的NumPy和SciPy工具能够知足咱们的需求。Matpotlob工具可用来绘制图，知足图分析的需求。dom

2 使用NumPy和SciPy进行数值分析

2.1 基本概念

　　与Python中原生的List类型不一样，Numpy中用ndarray类型来描述一组数据：ide

 1 from numpy import array
 2 from numpy.random import normal, randint
 3 #使用List来创造一组数据
 4 data = [1, 2, 3]
 5 #使用ndarray来创造一组数据
 6 data = array([1, 2, 3])
 7 #创造一组服从正态分布的定量数据
 8 data = normal(0, 10, size=10)
 9 #创造一组服从均匀分布的定性数据
10 data = randint(0, 10, size=10)

2.2 中心位置（均值、中位数、众数）

　　数据的中心位置是咱们最容易想到的数据特征。借由中心位置，咱们能够知道数据的一个平均状况，若是要对新数据进行预测，那么平均状况是很是直观地选择。数据的中心位置可分为均值（Mean），中位数（Median），众数（Mode）。其中均值和中位数用于定量的数据，众数用于定性的数据。函数

　　对于定量数据（Data）来讲，均值是总和除以总量（N），中位数是数值大小位于中间（奇偶总量处理不一样）的值：工具

　　均值相对中位数来讲，包含的信息量更大，可是容易受异常的影响。使用NumPy计算均值与中位数：spa

1 from numpy import mean, median
2 
3 #计算均值
4 mean(data)
5 #计算中位数
6 median(data)

　　对于定性数据来讲，众数是出现次数最多的值，使用SciPy计算众数：.net

1 from scipy.stats import mode
2 
3 #计算众数
4 mode(data)

2.3 发散程度（极差、方差、标准差、变异系数）

　　对数据的中心位置有所了解之后，通常咱们会想要知道数据以中心位置为标准有多发散。若是以中心位置来预测新数据，那么发散程度决定了预测的准确性。数据的发散程度可用极差（PTP）、方差（Variance）、标准差（STD）、变异系数（CV）来衡量，它们的计算方法以下：code

　　极差是只考虑了最大值和最小值的发散程度指标，相对来讲，方差包含了更多的信息，标准差基于方差可是与原始数据同量级，变异系数基于标准差可是进行了无量纲处理。使用NumPy计算极差、方差、标准差和变异系数：orm

 1 from numpy import mean, ptp, var, std
 2 
 3 #极差
 4 ptp(data)
 5 #方差
 6 var(data)
 7 #标准差
 8 std(data)
 9 #变异系数
10 mean(data) / std(data)

2.4 误差程度（z-分数）

　　以前提到均值容易受异常值影响，那么如何衡量误差，误差到多少算异常是两个必需要解决的问题。定义z-分数（Z-Score）为测量值距均值相差的标准差数目：blog

　　当标准差不为0且不为较接近于0的数时，z-分数是有意义的，使用NumPy计算z-分数：

1 from numpy import mean, std
2 
3 #计算第一个值的z-分数
4 (data[0]-mean(data)) / std(data)

　　一般来讲，z-分数的绝对值大于3将视为异常。

2.5 相关程度

　　有两组数据时，咱们关心这两组数据是否相关，相关程度有多少。用协方差（COV）和相关系数（CORRCOEF）来衡量相关程度：

　　协方差的绝对值越大表示相关程度越大，协方差为正值表示正相关，负值为负相关，0为不相关。相关系数是基于协方差但进行了无量纲处理。使用NumPy计算协方差和相关系数：

 1 from numpy import array, cov, corrcoef
 2 
 3 data = array([data1, data2])
 4 
 5 #计算两组数的协方差
 6 #参数bias=1表示结果须要除以N，不然只计算了分子部分
 7 #返回结果为矩阵，第i行第j列的数据表示第i组数与第j组数的协方差。对角线为方差
 8 cov(data, bias=1)
 9 
10 #计算两组数的相关系数
11 #返回结果为矩阵，第i行第j列的数据表示第i组数与第j组数的相关系数。对角线为1
12 corrcoef(data)

2.6 回顾

包	方法	说明
numpy	array	创造一组数
numpy.random	normal	创造一组服从正态分布的定量数
numpy.random	randint	创造一组服从均匀分布的定性数
numpy	mean	计算均值
numpy	median	计算中位数
scipy.stats	mode	计算众数
numpy	ptp	计算极差
numpy	var	计算方差
numpy	std	计算标准差
numpy	cov	计算协方差
numpy	corrcoef	计算相关系数

3 使用Matplotlib进行图分析

3.1 基本概念

　　使用图分析能够更加直观地展现数据的分布（频数分析）和关系（关系分析）。柱状图和饼形图是对定性数据进行频数分析的经常使用工具，使用前需将每一类的频数计算出来。直方图和累积曲线是对定量数据进行频数分析的经常使用工具，直方图对应密度函数而累积曲线对应分布函数。散点图可用来对两组数据的关系进行描述。在没有分析目标时，须要对数据进行探索性的分析，箱形图将帮助咱们完成这一任务。

　　在此，咱们使用一组容量为10000的男学生身高，体重，成绩数据来说解如何使用Matplotlib绘制以上图形，建立数据的代码以下：

 1 from numpy import array
 2 from numpy.random import normal
 3 
 4 def genData():
 5     heights = []
 6     weights = []
 7     grades = []
 8     N = 10000
 9 
10     for i in range(N):
11         while True:
12             #身高服从均值172，标准差为6的正态分布
13             height = normal(172, 6)
14             if 0 < height: break
15         while True:
16             #体重由身高做为自变量的线性回归模型产生，偏差服从标准正态分布
17             weight = (height - 80) * 0.7 + normal(0, 1)
18             if 0 < weight: break
19         while True:
20             #分数服从均值为70，标准差为15的正态分布
21             score = normal(70, 15)
22             if 0 <= score and score <= 100:
23                 grade = 'E' if score < 60 else ('D' if score < 70 else ('C' if score < 80 else ('B' if score < 90 else 'A')))
24                 break
25         heights.append(height)
26         weights.append(weight)
27         grades.append(grade)
28     return array(heights), array(weights), array(grades)
29 
30 heights, weights, grades = genData()

View Code

3.2 频数分析

3.2.1 定性分析（柱状图、饼形图）

　　柱状图是以柱的高度来指代某种类型的频数，使用Matplotlib对成绩这必定性变量绘制柱状图的代码以下：

 1 from matplotlib import pyplot
 2 
 3 #绘制柱状图
 4 def drawBar(grades):
 5     xticks = ['A', 'B', 'C', 'D', 'E']
 6     gradeGroup = {}
 7     #对每一类成绩进行频数统计
 8     for grade in grades:
 9         gradeGroup[grade] = gradeGroup.get(grade, 0) + 1
10     #建立柱状图
11     #第一个参数为柱的横坐标
12     #第二个参数为柱的高度
13     #参数align为柱的对齐方式，以第一个参数为参考标准
14     pyplot.bar(range(5), [gradeGroup.get(xtick, 0) for xtick in xticks], align='center')
15 
16     #设置柱的文字说明
17     #第一个参数为文字说明的横坐标
18     #第二个参数为文字说明的内容
19     pyplot.xticks(range(5), xticks)
20 
21     #设置横坐标的文字说明
22     pyplot.xlabel('Grade')
23     #设置纵坐标的文字说明
24     pyplot.ylabel('Frequency')
25     #设置标题
26     pyplot.title('Grades Of Male Students')
27     #绘图
28     pyplot.show()
29 
30 drawBar(grades)

　　绘制出来的柱状图的效果以下：

　　而饼形图是以扇形的面积来指代某种类型的频率，使用Matplotlib对成绩这必定性变量绘制饼形图的代码以下：

 1 from matplotlib import pyplot
 2 
 3 #绘制饼形图
 4 def drawPie(grades):
 5     labels = ['A', 'B', 'C', 'D', 'E']
 6     gradeGroup = {}
 7     for grade in grades:
 8         gradeGroup[grade] = gradeGroup.get(grade, 0) + 1
 9     #建立饼形图
10     #第一个参数为扇形的面积
11     #labels参数为扇形的说明文字
12     #autopct参数为扇形占比的显示格式
13     pyplot.pie([gradeGroup.get(label, 0) for label in labels], labels=labels, autopct='%1.1f%%')
14     pyplot.title('Grades Of Male Students')
15     pyplot.show()
16 
17 drawPie(grades)

　　绘制出来的饼形图效果以下：

3.2.2 定量分析（直方图、累积曲线）

　　直方图相似于柱状图，是用柱的高度来指代频数，不一样的是其将定量数据划分为若干连续的区间，在这些连续的区间上绘制柱。使用Matplotlib对身高这必定量变量绘制直方图的代码以下：

 1 from matplotlib import pyplot
 2 
 3 #绘制直方图
 4 def drawHist(heights):
 5     #建立直方图
 6     #第一个参数为待绘制的定量数据，不一样于定性数据，这里并无事先进行频数统计
 7     #第二个参数为划分的区间个数
 8     pyplot.hist(heights, 100)
 9     pyplot.xlabel('Heights')
10     pyplot.ylabel('Frequency')
11     pyplot.title('Heights Of Male Students')
12     pyplot.show()
13 
14 drawHist(heights)

　　直方图对应数据的密度函数，因为身高变量是属于服从正态分布的，从绘制出来的直方图上也能够直观地看出来：

　　使用Matplotlib对身高这必定量变量绘制累积曲线的代码以下：

 1 from matplotlib import pyplot
 2 
 3 #绘制累积曲线
 4 def drawCumulativeHist(heights):
 5     #建立累积曲线
 6     #第一个参数为待绘制的定量数据
 7     #第二个参数为划分的区间个数
 8     #normed参数为是否无量纲化
 9     #histtype参数为'step'，绘制阶梯状的曲线
10     #cumulative参数为是否累积
11     pyplot.hist(heights, 20, normed=True, histtype='step', cumulative=True)
12     pyplot.xlabel('Heights')
13     pyplot.ylabel('Frequency')
14     pyplot.title('Heights Of Male Students')
15     pyplot.show()
16 
17 drawCumulativeHist(heights)

　　累积曲线对应数据的分布函数，因为身高变量是属于服从正态分布的，从绘制出来的累积曲线图上也能够直观地看出来：

3.3 关系分析（散点图）

　　在散点图中，分别以自变量和因变量做为横纵坐标。当自变量与因变量线性相关时，在散点图中，点近似分布在一条直线上。咱们以身高做为自变量，体重做为因变量，讨论身高对体重的影响。使用Matplotlib绘制散点图的代码以下：

from matplotlib import pyplot

#绘制散点图
def drawScatter(heights, weights):
    #建立散点图
    #第一个参数为点的横坐标
    #第二个参数为点的纵坐标
    pyplot.scatter(heights, weights)
    pyplot.xlabel('Heights')
    pyplot.ylabel('Weights')
    pyplot.title('Heights & Weights Of Male Students')
    pyplot.show()

drawScatter(heights, weights)

　　咱们在建立数据时，体重这一变量的确是由身高变量经过线性回归产生，绘制出来的散点图以下：

3.4 探索分析（箱形图）

　　在不明确数据分析的目标时，咱们对数据进行一些探索性的分析，经过咱们能够知道数据的中心位置，发散程度以及误差程度。使用Matplotlib绘制关于身高的箱形图的代码以下：

 1 from matplotlib import pyplot
 2 
 3 #绘制箱形图
 4 def drawBox(heights):
 5     #建立箱形图
 6     #第一个参数为待绘制的定量数据
 7     #第二个参数为数据的文字说明
 8     pyplot.boxplot([heights], labels=['Heights'])
 9     pyplot.title('Heights Of Male Students')
10     pyplot.show()
11 
12 drawBox(heights)

　　绘制出来的箱形图中，包含3种信息：

Q2所指的红线为中位数
Q1所指的蓝框下侧为下四分位数，Q3所指的蓝框上侧为上四分位数，Q3-Q1为四分为差。四分位差也是衡量数据的发散程度的指标之一。
上界线和下界线是距离中位数1.5倍四分位差的线，高于上界线或者低于下界线的数据为异常值。

3.5 回顾

方法	说明
bar	柱状图
pie	饼形图
hist	直方图&累积曲线
scatter	散点图
boxplot	箱形图
xticks	设置柱的文字说明
xlabel	横坐标的文字说明
ylabel	纵坐标的文字说明
title	标题
show	绘图

4 总结

　　描述性统计是容易操做，直观简洁的数据分析手段。可是因为简单，对多元变量的关系难以描述。现实生活中，自变量一般是多元的：决定体重不只有身高，还有饮食习惯，肥胖基因等等因素。经过一些高级的数据处理手段，咱们能够对多元变量进行处理，例如特征工程中，可使用互信息方法来选择多个对因变量有较强相关性的自变量做为特征，还可使用主成分分析法来消除一些冗余的自变量来下降运算复杂度。