§ 4.4 协方差和相关系数

《概率统计》下页结束返回

§4.4 协方差和相关系数

1. 协方差

§4.4 矩和协方差矩阵2. 相关系数

下页

前面我们介绍了随机变量的数学期望和方差 ,对于多维随机变量，反映分量之间关系的数字特征中，最重要的，就是本讲要讨论的“协方差和相关系数”.


任意两个随机变量 X 和 Y 的协方差,

记为 Cov(X,Y), [Covariance] 定义为

⑶ Cov(X1+X2,Y)= Cov(X1,Y) + Cov(X2,Y) .

⑴ Cov(X,Y)= Cov(Y,X);

一、协方差

2.简单性质

⑵ Cov(aX,bY) = ab Cov(X,Y) a,b 是常数;

Cov(X,Y)=E{[ X-E(X)][Y-E(Y) ]}.

1. 定义

下页


即 Cov(X,Y)=E(XY) -E(X)E(Y).

可见，若 X 与 Y 独立，则 Cov(X,Y)= 0.

3. 协方差的计算公式由协方差的定义及期望的性质，可得

Cov(X,Y)=E{[ X-E(X)][Y-E(Y) ]}

=E(XY)-E(X)E(Y)-E(Y)E(X)+E(X)E(Y)

=E(XY)-E(X)E(Y).

下页


若 X1,X2, …,Xn 两两独立 , ，上式化为

D(X+Y)= D(X)+D(Y)+ 2Cov(X,Y);

4. 随机变量和的方差与协方差的关系

1 1

( ) ( ) 2 ( , );

n n

i i i ji ji i

D X D X Cov X X

1 1

( ) ( ).

n n

i ii i

D X D X

下页


二、相关系数

为随机变量 X 和 Y 的相关系数 .

设 D(X)>0, D(Y)>0, 称

)()(

),(

YDXD

YXCovXY

在不致引起混淆时，记 XY 为 .

下页

当 = 0 时，称 X 与 Y 是不相关的 .

1. 定义


例 1. 设 (X,Y) 的联合分布

如右表，求 Cov(X,Y) ,ρXY .解：计算得 E(X) = 2 , E(Y) = 2 ,

E(X2) = 9/2 , E(Y2) = 9/2 , D(X) =1/2 , D(Y) = 1/2 ,

Cov(X,Y) = 23/6 – 4 = - 1/6 ,

.3

1

21

21

61

)()(

),(

YDXD

YXCovXY

1/4 1/2 1/4

Y 1 2 31 0 1/6 1/12

2 1/6 1/6 1/63 1/12 1/6 0

X1/41/21/4

,6

23)( ijj

i ji pyxXYE

2. 相关系数的计算

下页

于是得


例 2. 设随机变量 X 的方差 D(X)≠0, 且 Y=aX+b(a≠0),求 X 和 Y 的相关系数 ρXY .

解： 2( ) ( ) ( ) .D Y D aX b a D X

( , ) {[ ( )][ ( )]}Cov X Y E X E X Y E Y

{[ ( )][ ( )]}E X E X aX b E aX b 2[ ( )]aE X E X ( ).aD X

)()(

),(

YDXD

YXCovXY

2

( )

( ) ( )

aD X

D X a D X

| |

a

a

1, 0.

1 0

a

a

下页


⑵ X 和 Y 独立时， =0 ，但其逆不真 .

由于当 X 和 Y 独立时， Cov(X,Y)= 0 ,

故( , )

0.( ) ( )

＝Cov X Y

D X D Y但由 =0 并不一定能推出 X 和 Y 独立 .

请看下例 .

3. 相关系数的性质及其与独立性的关系

下页

⑴≤


例 3. 设 X 服从 (-1/2, 1/2) 内的均匀分布, 而Y=cos (X) ，求 X,Y 的相关系数 .

即 Cov(X,Y)=0, 从而 =0，即 X 和 Y 不相关 .

但 Y 与 X 有严格的函数关系，即 X 和 Y 不独立 .

解：显然 E(X)=0, 而

相关系数刻划了 X 和 Y 间“线性相关”的程度 .

下页

( ) [ cos( )]E XY E X X1/ 2

1/ 2cos( ) ( ) 0,x x f x dx


例外的情况是：若 (X,Y) 服从二维正态分布，则 X 与 Y 独立的充分必要条件是， X 与 Y 不相关 .

显然，若 X 与 Y 独立，则 X 与 Y 不相关，但由 X 与 Y 不相关，不一定能推出 X 与 Y 独

立 .

下页

例 4 ．设 (X,Y) 服从二维正态分布，求 X,

Y

的相关系数 .


2 21 1 2 2

2 2 21 21 2

( ) ( )( ) ( )1[ 2 ]

2(1 )

21 2

1( , )

2 1

x x y y

f x y e

,2

1)(

21

21

2

)(

1

x

X exf,

2

1)(

22

22

2

)(

2

y

Y eyf

解： X,Y 的联合密度 f(x,y) 及边缘密度 fX(x), fY(y) 如下：

dxdyyxfyxYXCov ),())((),( 21 ,21

下页

1 2

1 2

( , )

( ) ( )XY

Cov X Y

D X D Y

而 .

从而说明二维正态分布随机变量 X,Y 相互独立的充要条件是ρ=0. 即 X,Y 相互独立与不相关是等价的 .


§4.5 矩和协方差矩阵

设 X 是随机变量，

称它为 X 的 k 阶原点矩.

))](([ kXEXE k=1,2,… 存在，若称它为 X 的 k 阶中心矩. 显然，期望是 X 的一阶原点矩 ;

方差是 X 的二阶中心矩 .

下页

一、矩的定义

若 E(Xk) k=1,2,… 存在，


协方差 Cov(X,Y) 是 X 和 Y 的二阶

称它为 X 和 Y 的 k+l 阶混合（原点）矩.

若 {[ ( )] [ ( )] }k lE X E X Y E Y 存在，称它为 X 和 Y 的 k+l 阶混合中心矩.

设 X 和 Y 是随机变量，若 E(XkYl) k,l=1,2,… 存在，

可见，

下页

混合中心矩 .


二、协方差矩阵的定义

将二维随机变量 (X1,X2) 的四个二阶中心矩})]({[ 2

1111 XEXEc

)]}()][({[ 221112 XEXXEXEc

排成矩阵的形式 :

)]}()][({[ 112221 XEXXEXEc

})]({[ 22222 XEXEc

称此矩阵为（ X1,X2 ）的协方差矩阵 .

2221

1211

cc

cc

下页


类似定义 n 维随机变量 (X1,X2, …,Xn)

的协方差矩阵 .

为 (X1,X2, …,Xn) 的协方差矩阵 .

nnnn

n

n

ccc

ccc

ccc

C

21

22221

11211

称矩阵都存在 , i, j=1,2,…,n,

),( jiji XXCovc 若)]}()][({[ jjii XEXXEXE

下页


作业： 102 页

1 6

结束


2 21, 1

( , ) .

0,

x yf x y

其它

( ) ( , )E X xf x y dxdy

1 2

1

21 0 .x x dx

( , ) ( ) ( ) ( )Cov X Y E XY E X E Y 2

2

1 1

1 1

10 ,

x

xxdx ydy

证明： (1) 因为

同理 E(Y) = 0 .

于是 ρXY= 0 ，所以 X 与 Y 不相关 .

2

2

1 1

1 1

1x

xxdx dy

( , )xyf x y dxdy

( )E XY

下页

例 5 ．设随机向量 (X,Y) 的概率密度如下 , 试证 X 与 Y 既不相关也不相互独立 .


221 , 1 1

( ) ( , ) ,

0,X

x xf x f x y dy

其它

221 , 1 1

( ) .

0,Y

y yf y

其它

下页

2 21, 1

( , ) .

0,

x yf x y

其它

例 5 ．设随机向量 (X,Y) 的概率密度如下 , 试证 X 与 Y 既不相关也不相互独立 .

证明： (2)

因 fX(x)fY(y)≠f(x,y) ，故 X 与 Y 不相互独立 .

Documents

§ 4.4 协方差和相关系数