随机变量的协方差和相关系数概要.ppt

概率论与数理统计 第三节 随机变量的协方差和相关系数 协方差 相关系数 协方差矩阵 相关系数矩阵 原点矩、中心矩 前面我们介绍了随机变量的数学期望和方差，对于二维随机变量（X，Y），我们除了讨论X与Y的数学期望和方差以外，还要讨论描述X和Y之间关系的数字特征，这就是本讲要讨论的 协方差和相关系数 E[ X-EX][Y-EY]称为随机变量X和Y的协方差,记为cov(X,Y) ，即 一、协方差 cov(X,Y)=E[X-EX][Y-EY]=EXY-EXEY 1.定义 1) 当(X,Y)是离散型随机变量时, 2) 当(X,Y)是连续型随机变量时, (6) cov(X1+X2,Y)= cov(X1,Y) + cov(X2,Y) (5) cov(aX, bY) = ab cov(X,Y) a, b 是常数 (7) D(X±Y)=D(X)+D(Y)±2cov(X,Y) (4) cov(aX+b, Y) = a cov(X,Y) a, b 是常数 2.简单性质 (3) cov(X,Y)= cov(Y,X) (2) cov(X,X)= D(X) (1) cov(X,C)= 0, C为常数； 协方差的大小在一定程度上反映了X和Y相互间的关系，但它还受X与Y本身度量单位的影响. 为了克服这一缺点，对协方差进行标准化，这就引入了相关系数 . 二、相关系数 为随机变量 X 和 Y 的相关系数 . 定义: 设D(X)0, D(Y)0, 称 在不致引起混淆时，记 为 . 相关系数的性质： 证: 由方差的性质和协方差的定义知, 对任意实数 b, 有 0≤D(Y-bX)= b2D(X)+D(Y)-2b cov(X,Y ) 令 ，则上式为 D(Y- bX)= 由于方差D(Y)是正的,故必有 1 ≥ 0, 所以 | ≤1。 存在常数 a,b(b≠0)， 使 P{Y= a + b X}=1， 即 X 和 Y 以概率 1 线性相关. 3. X和Y独立时， =0，但其逆不真 . 由于当X和Y独立时，cov(X,Y)= 0, 故 = 0 但由 并不一定能推出X和Y 独立. 例1 设X~N(0,1), Y=X2, 求X和Y的相关系数。 证: 4. 若 ，则称X和Y（线性）不相关。 定理：若随机变量X与Y的数学期望和方差都存在，且均不为零，则下列四个命题等价： （1） ； （2）cov(X ,Y) = 0； （3）E(XY)=EXEY； （4）D(X ±Y)=DX+DY。 注： 反应了X与Y的线性关系密切程度；X与Y不相关 表明两者没有线性关系，但不等于说没有其他关系。 但可以证明对下述情形，独立与不相关等价 若(X,Y)服从二维正态分布，则 X与Y独立 X与Y不相关 若 X 与 Y 独立，则X与Y不相关， 但由X与Y不相关，不一定能推出X与Y独立. 独立与不相关的关系： 三、协方差矩阵 将二维随机变量（X1,X2）的四个数量指标 排成矩阵的形式: 称此矩阵为（X1,X2）的协方差矩阵. 这是一个非 负定对称矩阵 类似定义n 维随机变量(X1,X2, …,Xn) 的协方差矩阵. 为(X1,X2, …,Xn) 的协方差矩阵. 都存在, 则称 ( i, j=1,2,…,n ) 若 矩阵 这是一个非 负定对称矩阵 为(X1,X2, …,Xn) 的相关系数矩阵。 都存在, 则称 ( i, j=1,2,…,n ) 若 矩阵 四、相关系数矩阵 这是一个非 负定对称矩阵 由于 故相关系数矩阵的主对角元素均为1. 五、 原点矩和中心矩 定义 设X和Y是随机变量，若 存在，称它为X的k阶原点矩，简称 k阶矩. 存在，称它为X的k阶中心矩. 注：均值 E(X)是X一阶原点矩, 方差D(X)是X的二阶中心矩. 注:协方差cov(X,Y)是X和Y的二阶混合中心矩. 称它为 X 和 Y 的 k+l 阶混合原点矩. 若 存在， 称它为X 和 Y 的 k+l 阶混合中心矩. 设 X 和 Y 是随机变量，若 k,l=1,2,… 存在， 六、例题讲解 1、 1、解 解 2. 概率论与数理统计