【几率论与数理统计】小结10-1 - 假设检验概述

注：终于写到最激动人心的部分了。假设检验应该是统计学中应用最普遍的数据分析方法，其中像"P值"、"t检验"、"F检验"这些如雷贯耳的名词都来自假设检验这一部分。我本身刚开进入生物信息学领域，用的最多的就是"利用t检验来判断某个基因在实验组和对照组中表达量的差别是否显著"。此外，对"P值"真正含义的探究也开启了自学几率论与数理统计之路。所以不管是应用价值，仍是对我学习统计学的影响，这部分的内容都是意义非凡的。

下面是两篇相关的文章，分别写于2011年和2016年，仅供参考：

- 生物学中P值的意义，2011

- 显著性检验——费舍尔与“女士品茶”，2016

 

1. 假设检验

---

从样本到整体的推理被称为统计推断。应用统计学家费舍尔认为经常使用的统计推断有三种基本形式：抽样分布、参数估计和假设检验。

对于假设检验，从字面意思来看，"假设"这个词在这里就是一个其正确与否有待经过样本去判断的陈述。假设是对一个或多个整体的几率分布或参数的假设；在作判断时掌握的信息是从整体中抽取的样本。在数理统计中，通用"检验"一词来代替上文汇总的"判断"。所以假设检验就是根据样本的信息检验对相关整体的某个假设是否正确。

假设检验的类型

根据整体分布是否已知以及检验的内容，能够将假设检验分为如下两类：

• 参数假设检验：整体分布已知，检验关于未知参数的某个假设（主要包括对整体均值及方差、均值差、方差比等参数的检验）；
• 非参数假设检验：整体参数未知时的假设检验问题（主要包括分布拟合检验、符号检验、秩和检验等）.

基本理论依据

假设检验的基本理论依据：实际推断原理，即“小几率原理”.

 

2. 通常步骤（临界值法）

---

根据样本对原假设进行判断，有两种方法，临界值法和P值法。临界值法是根据显著性水平和统计量的分布肯定一个检验统计量的临界值，而后根据检验统计量的值与临界值之间的关系来作决定。 在引例中，临界值就是下面$2.1$节中的待定常数C，检验统计量就是样本均值$\bar{X}$.

引例：

体重指数BMI是目前国际上经常使用的衡量人体胖瘦程度以及是否健康的一个标准，专家指出，健康成年人的BMI取值应该在18.55-24.99之间。某种减肥药广告宣传，连续使用该种减肥药一个星期即可以达到减肥的效果。为了检验其说法是否可靠，随机抽取9位实验者（要求BMI指数超过2五、年龄在20-25岁的女生），先让每位女生记录没有服用减肥药以前的体重，而后让每位女生服用该减肥药，服药期间，要求每位女生保持正常的饮食习惯，连续服用该减肥药1周后，再次记录各自的体重。测得服用减肥药先后的体重差值（服药前体重 - 服药一周后体重）（单位：kg）:

$$1.5, 0.6, -0.3, 1.1, -0.8, 0, 2.2, -1.0, 1.4$$

图1：BMI计算公式

问题：根据目前的样本资料可否认为该减肥药广告中的宣称是可靠的？

这里提出的问题就是一个假设检验的问题，包括如下要素：

1). 咱们有一个整体，即所考察的BMI指数超过2五、年龄在20-25岁的女生服用减肥药一周先后的体重差（这是理想整体，虽然没有在全部符合条件的人群中作实验），且假设该整体服从正态分布$X \sim N(\mu, \sigma^2)$，为了解题方便进一步假设方差$\sigma^2 = 0.36$. 此时整体的分布还有未知参数$\mu$.

2). 从该整体中中抽出的9个样本，即9位参与试验的人.

3). 有一个命题，其正确与否彻底取决于未知参数$\mu$的值. $\mu$的取值能够分为三个部分，表示不一样的实验效果：$\mu = 0$时表示体重没有变化；$\mu > 0$表示体重降低了；$\mu < 0$表示体重增长了. 在作判断时，只有$\mu > 0$的状况（甚至更严格）才有可能支持"减肥药有效"这个结论.

 

下面是进行假设检验的通常步骤。

2.1 创建两个彻底对立的假设：原假设与备择假设

在做假设检验以前，必须肯定原假设（或零假设，$H_0$）和备择假设（或对立假设，$H_1$）。这两个假设一般是彻底对立的，例如药物有效与无效，基因表达量有差别与没有差别等。决定谁做原假设，依赖于立场、惯例和方便性。选择零假设的基本原则是：保护零假设，尽可能维持现状或取简单假设。例如筛选差别基因，原假设是两组基因没有差别，只有在具备了充足的证据，证实两组基因是有差别的，才能拒绝原假设，说明它们是有差别的。

对于引例中的问题来讲，站在消费者的角度，须要严格看待减肥药的效果，所以原假设能够设定为该药物没有做用。那么根据题设，转化成数学语言为：

服用减肥药先后体重差值$X \sim N(\mu, \sigma^2)$，方差$\sigma^2 = 0.36$

检验假设：$H_0: \mu = 0, H_1: \mu > 0$

由于$\bar{X}$是$\mu$的无偏估计，$\bar{X}$的取值大小反映了$\mu$的取值大小，当原假设成立时，$\bar{X}$取值应偏小（这里X表示体重差，体重差越小表示该减肥药的效果越不明显）。所以，

当$\bar{X} \ge C$时，拒绝原假设$H_0$，

当$\bar{X} < C$时，接受原假设$H_0$，

其中C是待定常数——检验统计量的临界值。

 

2.2 给出检验统计量，并肯定拒绝域的形式

在作统计分析时，不少步骤都与各类不一样的分布有关，例如表明样本数值特征的统计量；用来作参数估计的枢轴量(包含一个未知量的统计量)；还有这里出现的用于假设检验的检验统计量。

若是统计量$T = T(X_1, ..., X_n)$的取值大小与原假设$H_0$是否成立有密切联系，就能够将其称为对应假设问题的检验统计量，而对应于拒绝原假设$H_0$时，样本值的范围称为拒绝域，记为$W$，其补集$\bar{W}$称为接受域。肯定一个检验，等价于指定其接受域或否认域。

引例中的检验统计量为$\bar{X}$，拒绝域为

$$W = \{(X_1, ..., X_n): \bar{X} \ge C\}$$

C如何选择，是问题的关键。

首先要理解C点的含义：C值取定后就是一个固定的值，C点将随机变量的整个取值范围$(0,+\infty)$分红了两个部分，左边为接受域，右边为拒绝域(这里衡量的是体重差，拒绝域在右边，没有考虑体重增长的状况)。
因此当样本均值$\bar{X} < C$时，就落到了接受域(也就是$\bar{X}$与0接近到了必定程度，相似于样本均值落到了0的邻域)，就能够认为$\bar{X}$与0没有差异。又由于$\bar{X}$是整体均值$\mu$的无偏估计，所以能够认为整体的均值$\mu=0$，从而接受原假设$H_0$。当样本均值$\bar{X} > C$时，就落到了拒绝域(样本均值与0的差异很是大)，因此就拒绝了原假设。

 

2.3 根据显著水平和统计量的分布肯定临界值

两类错误

在检验一个假设$H_0$时，有可能犯如下两类错误之一：

1). $H_0$正确，但被否认了，即丢弃了真假设(弃真)，也叫做"第一类错误"或"I型错误"；

2). $H_0$不正确，但被接受了，即接受了假的假设(取伪)，也叫做"第二类错误"或"II型错误"

在引例中，若是犯了第一类错误，就会将原本没有减肥效果的减肥药当作有减肥效果，从而对消费者的利益形成比较大的损害；若是犯了第二类错误，就会将原本有减肥效果的药物当作没有减肥效果，这会让制药公司蒙受损失。再举一个例子：某流行病的发病率为0.1%，因为发病率比较低，能够将"来检测的人没有患病"做为原假设$H_0$. 此时若是犯了第一类错误，就会将健康人诊断为病人从而开具错误的处方，一般也将这种状况称做假阳性；若是犯了第二类错误，就会将病人诊断为健康人从而可能使病人错过最佳治疗时间，且有可能传染给其余人，一般也将这种状况称为假阴性.

 

下面是一张广为流传的图，用来讲明"假阳性"和"假阴性"，其原假设$H_0$是"没有怀孕"：

 图2：假阳性&假阴性

咱们但愿在检验一个假设$H_0$时，犯两类错误的几率都尽可能小。可是不免会有失误的时候，并且这两类错误是相互对立的：对于引例来讲，假如检验的条件很是严格(例如规定必须每一个人的体重都降低10kg)，则犯第一类错误的几率就会比较小，可是大大提升了假阴性的几率。对于引例来讲，犯第一类错误的后果显然比犯第二类错误的后果严重，所以检验的标准须要偏严格一些。

在区间估计中，也存在相似的问题：想要增大可靠性即置信系数，就会使区间长度变大而下降精度，反之亦然. 在区间估计中，是用"保一望二"的原则来解决这个问题的，即便置信系数达到指定值，在这个限制之下使区间精度尽量大. 在假设检验中也是这样办：先保证第一类错误的几率不超过某指定值$\alpha$($\alpha$一般较小，最经常使用的是0.05和0.01，有时也取0.001, 0.1或0.2等值)，在这个限制下，使第二类错误的几率尽量小. 以上原则也被称为"奈曼-皮尔逊原则".

 

继续分析引例中的问题，取显著性水平$\alpha = 0.05$，

当原假设$H_0$成立时 $\Rightarrow \frac{\bar{X}}{0.6 / \sqrt{9}} \sim N(0, 1)$，(统计量的分布)

此时，显著性水平就是犯第一类错误的几率的上限：

 $P\{\bar{X} \ge C | \mu=0\} = P\{\frac{\bar{X}}{\sigma/\sqrt{n}} \ge \frac{C}{\sigma/\sqrt{n}} | \mu=0\}$

 $= 1 - \Phi(\frac{C}{\sigma/\sqrt{n}}) \le \alpha = 0.05.$, $(0.05 = \Phi(-z_{0.05}))$. $1 - \Phi(x)$越小，$x$越靠近分布的右端，值越大

$\Rightarrow \frac{C}{0.6/\sqrt{9}} \ge z_{0.05} = 1.645. \Rightarrow C \ge 0.329.$

其中，$\Phi(x)$表示区间$(-\infty, x)$上x轴与几率密度函数围成的面积；$z_{\alpha}$表示几率密度函数的上$\alpha$分位点；检验统计量是样本的均值，标准化后服从标准正态分布（整体方差已知）.

 

2.4 根据样本得出结论

根据样本信息得，$\bar{X} = 0.522 > 0.329$.

当原假设$H_0$成立时，样本落在拒绝域的几率不超过0.05，这是一个小几率事件(小几率事件发生了)。

根据实际推断原理，有充分的理由拒绝原假设，认为厂家的宣传是可靠的.

同理，若$\alpha = 0.01$，能够计算获得$ W = \{ \bar{X} \ge 0.465\}$，此时条件变得更加严格，仍然能够拒绝原假设.

 

 3. P值法

---

P值法的前两步与临界值法相同，下面是"P值法"的第三步和第四步. 因为在P值法中，只与显著性水平$\alpha$进行比较，也就是只对第一类错误进行了限制，所以也被称为"显著性检验"(Significance Test).

3.3 计算最小显著水平——P值法

P值的定义：当原假设$H_0$成立时，检验统计量取比观察到的结果更为极端的数值的几率。(若是比观察结果更极端的事件发生的几率很是小，那么观察结果自己发生的几率也会很是小！)

$$P_{\_} = P\{\bar{X} \ge \bar{x} = 0.522 | \mu = 0\} = 1 - \Phi(\frac{0.522}{0.6/\sqrt{9}}) = 0.0045 < \alpha = 0.05$$

按照P值的定义，如今观察到的结果为$\bar{x} = 0.522$，观察到比$\bar{x}$更大的结果的几率为0.0045. 这个几率很是小，小到几乎不可能发生.

那么此时的观察结果自己$\bar{x} = 0.522$的几率也很是小，接近0.0045，也就是说在原假设"减肥药无效"成立的状况下，小几率事件发生了，所以要拒绝原假设.

带几率性质的反证法：

该方法有点像"反证法"，可是又有不一样之处，所以被称为"带几率性质的反证法". 通常的反证法要求在原假设成立的条件下导出的结论是绝对成立的，若是事实与之矛盾，则彻底绝对地否认原假设.

几率反证法的逻辑是：若是小几率事件在一次试验中发生，咱们就以很大的把握拒绝原假设.

 

3.4 比较P_值与显著水平，得出结论

P_值与显著性水平$\alpha$的关系：

1). 若$P_{\_} \le \alpha$，等价于样本落在拒绝域内，所以，拒绝原假设，称检验结果在水平$\alpha$下是统计显著的；

2). 若$P_{\_} > \alpha$，等价于样本没有落在拒绝域内，所以，不拒绝(接受)原假设，称检验结果在水平$\alpha$下统计不显著.

 

 

reference

---

https://marginalrevolution.com/marginalrevolution/2014/05/type-i-and-type-ii-errors-simplified.html

https://allizhealth.com/wp-content/uploads/2016/07/BMI-Formula-1.jpg

http://www.360doc.com/content/17/0904/19/45877835_684588486.shtml

http://staff.ustc.edu.cn/~zwp/teach/Prob-Stat/Lec16_slides.pdf

《几率论与数量统计》，陈希孺，中国科学技术大学出版社，2009年2月初版

中国大学MOOC：浙江大学&哈尔滨工业大学，几率论与数理统计