第四章第三节 协方差和 与相关系数 概率论课件.pptVIP

第四章第三节 协方差与相关系数 前面我们介绍了随机变量的数学期望和方差，对于多维随机变量，反映分量之间关系的数字特征中，最重要的，就是本讲要讨论的 协方差和相关系数 任意两个随机变量X和Y的协方差,记为cov(X,Y), 定义为 一、协方差定义 2.具体计算 cov(X,Y)=E{[ X-E(X)][Y-E(Y) ]} 1.定义 为离型随机向量， 若 其概率分布为 则 若 为连续型随机向量， 其概率密度为 则 Cov(X,Y)=E(XY) -E(X)E(Y) 可见，若X与Y独立， Cov(X,Y)= 0 . 3. 计算协方差的一个简单公式 由协方差的定义及期望的性质，可得 Cov(X,Y)=E{[ X-E(X)][Y-E(Y) ]} =E(XY)-E(X)E(Y)-E(Y)E(X)+E(X)E(Y) =E(XY)-E(X)E(Y) 即 例1 已知离散型随机向量 的概率分布如右表, 求 解 容易求得 的概率分 的概率分布为 布为 计算得 于是有 于是 例2 设连续型随机变量 的密度函数为 求 和 解 由 的密度函数可求得其边缘密度函 数分别为: 于是 从而 又 所以 故 协方差的大小在一定程度上反映了X和Y相互间的关系，但它还受X与Y本身度量单位的影响. 例如： Cov(kX, kY)=k2Cov(X,Y) 为了克服这一缺点，对协方差进行标准化，这就引入了相关系数 . 三、相关系数的定义 为随机变量X和Y的相关系数 。 定义: 设D(X)0, D(Y)0, 称 在不致引起混淆时，记 为 。 当 时， 称 与 不相关. 例3 设二维随机变量 求相关系数 解 根据二维正态分布的边缘概率密度知 而 令 则有 即 即有 于是 注: 从本例的结果可见, 二维正态随机变量 的分布完全由 和 各自的数学期望、 方差以及 它们的相关系数所确定. 四、相关系数的性质： 证: 由方差与协方差的关系， 对任意实数b, 有 0≤D(Y-bX)= b2D(X)+D(Y)-2b cov(X,Y ) 令 则上式为 D(Y- bX)= 由方差D(Y)是正的, 故必有 1 - ≥ 0, 所以 | |≤1。 2. X和Y独立时， =0，但其逆不真. 由于当X和Y独立时，Cov(X,Y)= 0. 故 = 0. 但由 并不一定能推出X和Y 独立. 请看下例. 证明: 例 4 设(X,Y)服从单位 D={(x,y); x2+y2≤1} 上的均匀分布, 证明: ?XY = 0。 所以，Cov(X,Y)= E(XY)-E(X)E(Y)=0. 同样，得 E(Y)=0, 此外，Var(X)0, Var(Y)0. 所以，?XY =0, 即X与Y不相关. 但是前面已计算过: X和Y不相互独立. 例5 设X服从(-1/2, 1/2)内的均匀分布,而 Y=cos X, （请课下自行验证） 因而 =0， 即X和Y不相关 . 但Y与X有严格的函数关系， 即X和Y不独立 . 不难求得， Cov(X,Y)=0， 但容易证明，对下述情形，独立与不相关是一回事： 若(X,Y)服从二维正态分布，则 X与Y独立 X与Y不相关. 前面, 我们已经看到： 若X与Y独立，则X与Y不相关. 但由X与Y不相关，不一定能推出X与Y独立. 存在常数a, b(b≠0)， 使P{Y=a+bX}=1， 即X和Y以概率1线性相关。 3.若 则 而且当 时， 当 时， 证明 必要性 当 时 由方差的性质可知： 存在常数 使 即 令 则有 当 时， 当 时， 充分性 若 于是 考虑以X的线性函数a+bX来近似表示Y， 以均方误差 e =E{[Y-(a+bX)]2} 来衡量以a+bX近似表示Y的好坏程度, e值越小表示 a+bX与Y的近似程度越好. 用微积分中求极值的方法，求出使e 达到最小时的a,b . 相关系数刻划了X和Y间“线性相关”的程度. =E(Y2)+b2E(X2)+a2- 2bE(XY)+2abE(X) - 2aE(Y) e =E{[Y-(a+bX)]2 } 解得 这样求出的最佳逼近为 L(X)=a0+b0X 这样求出的最佳逼近为L(X)=a0+b0X 这一逼近的剩余是 若 =0， Y与X无线性关系; Y与X有严格线性关系; 若 可见, 若0| |1, | |的值越接近于1, Y与X的线性相关程度越高; | |的值越接近于0, Y与X的线性相关程度越弱. E[(Y-L(X))2]= Var(Y)(1- ) * *