协方差的意义

协方差表明了两个变量之间的是否同时偏离均值。

 

若是正相关，这个计算公式，每一个样本对（Xi, Yi）,　每一个求和项大部分都是正数，即两个同方向偏离各自均值，而不一样时偏离的也有，可是少，这样当样本多时，总和结果为正。下面这个图就很直观。下面转载自：http://blog.csdn.net/wuhzossibility/article/details/8087863

 

在几率论中，两个随机变量 X 与 Y 之间相互关系，大体有下列3种状况：

 

当 X, Y 的联合分布像上图那样时，咱们能够看出，大体上有： X 越大  Y 也越大， X 越小  Y 也越小，这种状况，咱们称为“正相关”。

 

当X, Y 的联合分布像上图那样时，咱们能够看出，大体上有：X 越大Y 反而越小，X 越小 Y 反而越大，这种状况，咱们称为“负相关”。

当X, Y  的联合分布像上图那样时，咱们能够看出：既不是X  越大Y 也越大，也不是 X 越大 Y 反而越小，这种状况咱们称为“不相关”。

怎样将这3种相关状况，用一个简单的数字表达出来呢？

在图中的区域（1）中，有 X>EX ，Y-EY>0 ，因此(X-EX)(Y-EY)>0；

在图中的区域（2）中，有 X<EX ，Y-EY>0 ，因此(X-EX)(Y-EY)<0；

在图中的区域（3）中，有 X<EX ，Y-EY<0 ，因此(X-EX)(Y-EY)>0；

在图中的区域（4）中，有 X>EX ，Y-EY<0 ，因此(X-EX)(Y-EY)<0。

当X 与Y 正相关时，它们的分布大部分在区域（1）和（3）中，小部分在区域（2）和（4）中，因此平均来讲，有E(X-EX)(Y-EY)>0 。

当 X与 Y负相关时，它们的分布大部分在区域（2）和（4）中，小部分在区域（1）和（3）中，因此平均来讲，有(X-EX)(Y-EY)<0 。

当 X与 Y不相关时，它们在区域（1）和（3）中的分布，与在区域（2）和（4）中的分布几乎同样多，因此平均来讲，有(X-EX)(Y-EY)=0 。

因此，咱们能够定义一个表示X, Y 相互关系的数字特征，也就是 协方差

cov(X, Y) = E(X-EX)(Y-EY)。

当 cov(X, Y)>0时，代表 X与Y 正相关；

当 cov(X, Y)<0时，代表X与Y负相关；

当 cov(X, Y)=0时，代表X与Y不相关。

这就是协方差的意义。