概率论于数理统计培训教案.pptVIP

协方差矩阵的应用 协方差矩阵可用来表示多维随机变量的概率密度，从而可通过协方差矩阵达到对多维随机变量的研究 下面给出n元正态分布的概率密度的定义. 由于 引入矩阵 由此可得 由于 * * 概率论与数理统计 * 4.3 协方差和相关系数 问题 对于二维随机变量(X ,Y ): 已知联合分布 边缘分布 对二维随机变量,除每个随机变量各自 的概率特性外, 相互之间可能还有某种联系 问题是用一个怎样的数去反映这种联系. 数 反映了随机变量 X , Y 之间的某种关系 称 为 X ,Y 的协方差. 记为 4.3.1 协方差和相关系数的定义 定义 若D (X ) 0, D (Y ) 0 ,称 为X ,Y 的 相关系数，记为 事实上， 若 称 X ,Y 不相关. 无量纲 的量 若 ( X ,Y ) 为离散型， 若 ( X ,Y ) 为连续型， 4.3.2 协方差和相关系数的计算 (1) (2) 求 cov (X ,Y ), ?XY 0 1 q p X P 0 1 q p Y P 例1 已知 X ,Y 的联合分布为 X Y pij 0 1 0 1 q 0 0 p 0 p 1 p + q = 1 解 0 1 q p X Y P 例2 设 ( X ,Y ) ~ N ( ?1, ?2, ?12, ?22 , ?), 求?XY . 解 若 ( X ,Y ) ~ N ( ?1, ?2, ?12, ?22, ?), 则X ,Y 相互独立 X ,Y 不相关 例3 设? ~ U(0,2?) , X=cos? , Y=cos(? +? ), ? 是给定的常数，求 ?XY 解 若 若 有线性关系 若 不相关， 但 不独立， 没有线性关系，但有函数关系 协方差的性质 1o 2o 3o 4o 4.3.3 协方差和相关系数的性质 相关系数的性质 引理 — Cauchy-Schwarz不等式 为了研究相关系数的性质，首先介绍一个引理. 当E(X 2) 0, E(Y 2 ) 0 时,当且仅当 时, 等式成立. 证 令 对任何实数 t , 即 等号成立 有两个相等的实零点 即 即 1o 证 令X1=X－E(X), Y1=Y－E(Y)，由Cauchy-Schwarz不等式 即 2o 存在常数a,b(a≠0)， 使P{Y=aX+b}=1， 即X和Y以概率1线性相关. 证 由10得 即 令 则有 P{Y=aX+b}=1. 3o X , Y 不相关 X ,Y 相互独立 X , Y 不相关 若 ( X , Y ) 服从二维正态分布，则 X , Y 相互独立 X , Y 不相关 考虑以X的线性函数aX+b来近似表示Y， 以均方误差 e =E{[Y-(aX+b)]2} 来衡量以aX+b近似表示Y的好坏程度, e值越小表示 aX+b与Y的近似程度越好. 用微积分中求极值的方法，求出使e 达到最小时的a,b . 相关系数刻划了X和Y间“线性相关”的程度. =E(Y2)+a2E(X2)+b2- 2aE(XY)+2abE(X) - 2bE(Y) e =E{[Y-(aX+b)]2 } 解得 这样求出的最佳逼近为 L(X)=a0X+b0 这样求出的最佳逼近为L(X)=a0X+b0 这一逼近的剩余是 若 =0， Y与X无线性关系; Y与X有严格线性关系; 若 可见, 若0| |1, | |的值越接近于1, Y与X的线性相关程度越高; | |的值越接近于0, Y与X的线性相关程度越弱. E[(Y-L(X))2]= D(Y)(1- ) 请看演示 相关系数的直观意义 例4 设 ( X ,Y ) ~ N ( 1, 1, 4, 4, 0.5 ), Z = X + Y , 求 ? XZ 解 4.3.4 矩、协方差矩阵 方差D(X)是X的二阶中心矩. 若 存在， 称它为X的k 阶中心矩. 称它为X的k阶原点矩. 设X和Y是随机变量，若 k=1,2,… 存在， 可见， 协方差Cov(X,Y)是X和Y的二阶混合中心矩. 若 存在， 称它为X和Y的k+l 阶混合中心矩. 称它为X和Y的k+l 阶混合（原点）矩. 若 k,l =1,2,…存在， 可见， 说明 以上数字特征都是随机变量函数的数学期望； 在实际应用中，高于4阶的矩很少使用，3阶中心矩E[X-E(X)]3主要用来衡量随机变量