[理学]线性代数第四版课件 4-3_4.pptVIP

第三节 协方差及相关系数 第四节 矩、协方差矩阵 * 概率论 * 概率论 《概率论与数理统计》 协方差 相关系数 前面我们介绍了随机变量的数学期望和方差，对于二维随机变量（X，Y），我们除了讨论X与Y的数学期望和方差以外，还要讨论描述X和Y之间关系的数字特征，这就是本讲要讨论的 协方差和相关系数 量E{[ X-E(X)][Y-E(Y) ]}称为随机变量X和Y的协方差,记为Cov(X,Y) ，即 ⑶ Cov(X1+X2,Y)= Cov(X1,Y) + Cov(X2,Y) ⑴ Cov(X,Y)= Cov(Y,X) 一、协方差 2.简单性质 ⑵ Cov(aX,bY) = ab Cov(X,Y) a,b 是常数 Cov(X,Y)=E{[ X-E(X)][Y-E(Y) ]} 1.定义 Cov(X,Y)=E(XY) -E(X)E(Y) 可见，若X 与 Y 独立， Cov(X,Y)= 0 . 3. 计算协方差的一个简单公式 由协方差的定义及期望的性质，可得 Cov(X,Y)=E{[ X-E(X)][Y-E(Y) ]} =E(XY)-E(X)E(Y)-E(Y)E(X)+E(X)E(Y) =E(XY)-E(X)E(Y) 即 特别地 D(X+Y)= D(X)+D(Y)+ 2Cov(X,Y) 4. 随机变量和的方差与协方差的关系 协方差的大小在一定程度上反映了X和Y相互间的关系，但它还受X与Y本身度量单位的影响. 例如： Cov(kX, kY)=k2Cov(X,Y) 为了克服这一缺点，对协方差进行标准化，这就引入了相关系数 . 二、相关系数 为随机变量 X 和 Y 的相关系数 . 定义: 设D(X)0, D(Y)0, 称 即：X、Y 的相关系数是标准化随机变量 与 的协方差. 因为两标准化随机变量 与 的期望值都是0，则 相关系数具有以下性质： 证明 (1)由协方差公式可知 从而 由方差非负性可得 证明　必要性 设 　则由（1）可知 从而 由方差性质４可得 即 其中 当 时，类似可得 Y 与 X 有线 性关系。 充分性 设 　为常数，从而 所以 所以 但由 并不一定能推出X和Y 独立. 解 X的密度函数为 例1 设X服从(-1/2, 1/2)内的均匀分布 , Y=cos X, Cov(X,Y). 求 因而 =0， 即X和Y不相关 . 但Y与X有严格的函数关系， 即X和Y不独立 . X与Y之间没有线性关系并不表示它们之间没有关系。 ( ) ． 不相关 之间不存在线性关系 与 时， 当 之间的线性关系越弱； 与 时， 越接近于 当 存在着线性关系； 之间以概率 与 时， 当 ． 线性关系紧密程度的量 之间 与 量 相关系数是表征随机变 ， ， ， Y X Y X Y X Y X Y X Y X Y X 0 0 1 1 = = r r r 注意到： 若 X 与 Y 独立，则X与Y不相关， 但由X与Y不相关，不一定能推出X与Y独立. 但对下述情形，独立与不相关等价 若(X,Y)服从二维正态分布，则 X与Y独立 X与Y不相关 事实上, 设 X与Y 相互独立的充分必要条件是 而 时，X 与 Y 也是不相关的. 而对于二维的正态分布, 即X，Y独立? ?X，Y不相关. 三、小结 这一节我们介绍了协方差、相关系数. 相关系数是刻划两个变量间线性相关程度的 一个重要的数字特征. 注意独立与不相关并不是等价的. 只有当(X,Y) 服从二维正态分布时，有 X 与 Y 独立 X 与 Y 不相关 原点矩 中心矩 协方差矩阵 n 元正态分布的概率密度 小结 一、 原点矩 中心矩 定义 设X和Y是随机变量，若 存在，称它为X的k阶原点矩，简称 k阶矩 存在，称它为X的k阶中心矩 可见，均值 E（X）是X一阶原点矩，方差D（X） 是X的二阶中心矩。