如何通俗理解“协方差”和“相关系数”

1. 如何通俗理解“协方差”和“相关系数”

相关系数概念在评价图像的处理效果方面很有用，因为很多时候我们需要只要处理后图像与原图像的关系。
一、协方差：  可以通俗的理解为：两个变量在变化过程中是同方向变化？还是反方向变化？同向或反向程度如何？ 
你变大，同时我也变大，说明两个变量是同向变化的，这时协方差就是正的。  
你变大，同时我变小，说明两个变量是反向变化的，这时协方差就是负的。 
从数值来看，协方差的数值越大，两个变量同向程度也就越大。反之亦然。  
咱们从公式出发来理解一下：    公式简单翻译一下是：如果有X,Y两个变量，每个时刻的“X值与其均值之差”乘以“Y值与其均值之差”得到一个乘积，再对这每时刻的乘积求和并求出均值（其实是求“期望”，但就不引申太多新概念了，简单认为就是求均值了）。    
期望值分别为E[X]与E[Y]的两个实随机变量X与Y之间的协方差Cov(X,Y)定义为：

从直观上来看，协方差表示的是两个变量总体误差的期望。
二、相关系数：  对于相关系数，我们从它的公式入手。一般情况下，相关系数的公式为：   翻译一下：就是用X、Y的协方差除以X的标准差和Y的标准差。  所以，相关系数也可以看成协方差：一种剔除了两个变量量纲影响、标准化后的特殊协方差。    既然是一种特殊的协方差，那它：  1、也可以反映两个变量变化时是同向还是反向，如果同向变化就为正，反向变化就为负。  2、由于它是标准化后的协方差，因此更重要的特性来了：它消除了两个变量变化幅度的影响，而只是单纯反应两个变量每单位变化时的相似程度。  
为了能准确的研究两个变量在变化过程中的相似程度，我们就要把变化幅度对协方差的影响，从协方差中剔除掉。

其中，Cov(X,Y)为X与Y的协方差，Var[X]为X的方差，Var[Y]为Y的方差

2. 协方差与相关系数的关系

相关系数与协方差的关系:
1、相关系数与协方差一定是在投资组合中出现的，只有组合才有相关系数和协方差。单个资产是没有相关系数和协方差之说的。
2、相关系数和协方差的变动方向是一致的，相关系数的负的，协方差一定是负的。
3、相关系数是变量之间相关程度的指标根据协方差的公式可知，协方差与相关系数的正负号相同，但是协方差是相关系数和两证券的标准差的乘积，所以协方差表示两种证劵之间共同变动的程度。

3. 方差、协方差与相关系数的关系方程

随机变量：ξ
0，数学期望：Eξ
1，方差：若E(ξ-Eξ)^2存在，则称 Dξ=E(ξ-Eξ)^2为随机变量ξ的方差；称√Dξ为ξ的标准差。
2，协方差：给定二维随机变量 ξ (ξ1, ξ2)，若：E[(ξ1-Eξ1)(ξ2-Eξ2)]存在，则称其为随机变量
   (ξ1，ξ2)的协方差，记为：cov(ξ1，ξ2)=E[(ξ1-Eξ1)(ξ2-Eξ2)]
3，记：r(ξ1，ξ2)=cov(ξ1，ξ2)/[Dξ1Dξ2]^0.5
                          =E[(ξ1-Eξ1)(ξ2-Eξ2)] / [Dξ1Dξ2]^0.5               （Dξ1，Dξ2均大于零）
     称：上式为ξ1，ξ2的‘相关系数’或‘标准协方差’。
4，以上可知方差、协方差、相关系数之间的相互关系。

4. 方差、协方差与相关系数的关系方程式

随机变量：ξ
0，数学期望：Eξ
1，方差：若E(ξ-Eξ)^2存在，则称 Dξ=E(ξ-Eξ)^2为随机变量ξ的方差；称√Dξ为ξ的标准差。
2，协方差：给定二维随机变量 ξ (ξ1, ξ2)，若：E[(ξ1-Eξ1)(ξ2-Eξ2)]存在，则称其为随机变量
   (ξ1，ξ2)的协方差，记为：cov(ξ1，ξ2)=E[(ξ1-Eξ1)(ξ2-Eξ2)]
3，记：r(ξ1，ξ2)=cov(ξ1，ξ2)/[Dξ1Dξ2]^0.5
                          =E[(ξ1-Eξ1)(ξ2-Eξ2)] / [Dξ1Dξ2]^0.5               （Dξ1，Dξ2均大于零）
     称：上式为ξ1，ξ2的‘相关系数’或‘标准协方差’。
4，以上可知方差、协方差、相关系数之间的相互关系。

5. 方差、协方差与相关系数的关系方程式

随机变量：ξ
0，数学期望：Eξ
1，方差：若E(ξ-Eξ)^2存在，则称Dξ=E(ξ-Eξ)^2为随机变量ξ的方差；称√Dξ为ξ的标准差。
2，协方差：给定二维随机变量ξ(ξ1,ξ2)，若：E[(ξ1-Eξ1)(ξ2-Eξ2)]存在，则称其为随机变量
(ξ1，ξ2)的协方差，记为：cov(ξ1，ξ2)=E[(ξ1-Eξ1)(ξ2-Eξ2)]
3，记：r(ξ1，ξ2)=cov(ξ1，ξ2)/[Dξ1Dξ2]^0.5
=E[(ξ1-Eξ1)(ξ2-Eξ2)]/[Dξ1Dξ2]^0.5（Dξ1，Dξ2均大于零）
称：上式为ξ1，ξ2的‘相关系数’或‘标准协方差’。
4，以上可知方差、协方差、相关系数之间的相互关系。

6. 方差、协方差与相关系数的关系方程

随机变量：ξ
  0,数学期望：Eξ
  1,方差：若E(ξ-Eξ)^2存在,则称 Dξ=E(ξ-Eξ)^2为随机变量ξ的方差；称√Dξ为ξ的标准差.
  2,协方差：给定二维随机变量 ξ (ξ1,ξ2),若：E[(ξ1-Eξ1)(ξ2-Eξ2)]存在,则称其为随机变量
  (ξ1,ξ2)的协方差,记为：cov(ξ1,ξ2)=E[(ξ1-Eξ1)(ξ2-Eξ2)]
  3,记：r(ξ1,ξ2)=cov(ξ1,ξ2)/[Dξ1Dξ2]^0.5
  =E[(ξ1-Eξ1)(ξ2-Eξ2)] / [Dξ1Dξ2]^0.5 （Dξ1,Dξ2均大于零）
  称：上式为ξ1,ξ2的‘相关系数’或‘标准协方差’.
  4,以上可知方差、协方差、相关系数之间的相互关系.

7. 协方差与相关系数（概率论

1
Cov(X,Y)=p*根号[D(X)D(Y)]=0.4*30=12
D(X+Y)=D(X)+D(Y)+2Cov(X,Y)=61+24=85
D(X-Y)=61-24=37

2
E(Z)=1/3+0/2=1/3
D(Z)=D(X)/9+D(Y)/4+2*(1/6)*Cov(X,Y)
       =1+4+(1/3)(-0.5*12)
      =5-2
     =3

Cov(X,Z)=Cov(X,X/3)+Cov(X,Y/2)=D(X)/3+Cov(X,Y)/2=3-6/2=0
p(X,Z)=Cov(X,Z)/根号(D(X)D(Z))=0

3
这里f(x,y)=1 ，对x*f(x,y)作积分得X的期望

E(X)=∫(0~1)∫(-x~x) x dydx
       =∫(0~1) 2x² dx
       =2/3  

关於x轴对称的均匀密度，所以必然E(Y)=0
正规方法是对y*f(x,y)作相同的积分

E(Y)=∫(0~1)∫(-x~x) y dydx
       =0

E(XY)=∫(0~1)∫(-x~x) xy dydx
          =0

Cov(X,Y)=E(XY)-E(X)E(Y)=-2/3

8. 如何通俗易懂地解释「协方差」与「相关系数」的概念?

协方差（Covariance）在概率论和统计学中用于衡量两个变量的总体误差。而方差是协方差的一种特殊情况，即当两个变量是相同的情况。
相关系数是最早由统计学家卡尔·皮尔逊设计的统计指标，是研究变量之间线性相关程度的量，一般用字母 r 表示。由于研究对象的不同，相关系数有多种定义方式，较为常用的是皮尔逊相关系数。


相关系数是用来衡量两个变量的相关程度，比如，随着x的变大，y也随之变大，并且接近某种函数关系，说明相关性好。协方差在描述X和Y在同一物理量纲之下有一定的作用，但同样的两个量采用不同的量纲使它们的协方差在数值上表现出很大的差异。