第二章 多元正态分布及参数的估计.docVIP

第二章 多元正态分布及参数的估计 在多元统计分析中,多元正态分布占有相当重要的地位.这是因为许多实际问题涉及到的随机向量服从正态分布或近似服从正态分布;当样本量很大时,许多统计量的极限分布往往和正态分布有关;此外,对多元正态分布,理论与实践都比较成熟,已有一整套行之有效的统计推断方法.基于这些理由,我们在介绍多元统计分析的种种具体方法之前，首先介绍多元正态分布的定义、性质及多元正态分布中参数的估计问题. 目 录 §2.1 随机向量 §2.2 多元正态分布的定义与基本性质 §2.3 条件分布和独立性 §2.4 多元正态分布的参数估计 §2.1 随机向量 本课程所讨论的是多变量总体.把p个随机变量放在一起得X=(X1,X2,…,Xp)′为一个p维随机向量,如果同时对p维总体进行一次观测,得一个样品为 p 维数据.常把n个样品排成一个n×p矩阵,称为样本资料阵. 其中 X(i)( i=1,…,n)是来自p维总体的一个样品. 在多元统计分析中涉及到的都是随机向量,或是多个随机向量放在一起组成的随机矩阵. 本节有关随机向量的一些概念(联合分布,边缘分布,条件分布,独立性;X的均值向量,X的协差阵和相关阵,X与Y的协差阵)要求大家自已复习. 三﹑ 均值向量和协方差阵的性质 设X,Y为随机向量,A,B为常数阵,则 E(AX)=A·E(X)， E(AXB)=A·E(X)·B D(AX)=A·D(X)·A COV(AX,BY)=A·COV(X,Y)·B (2) 若X,Y相互独立,则COV(X,Y)=O;反之不成立. 若COV(X,Y)=O,我们称X与Y不相关.故有: 两随机向量若相互独立,则必不相关; 两随机向量若不相关,则未必相互独立. (3) 随机向量X=(X1,X2,…,Xp)′的协差阵D(X)=S是对称非负定阵.即 S=S′ , a′ Sa≥0 (a为任给的p维常量). (4) Σ=L2 ,其中L为非负定阵. 由于Σ≥0(非负定),利用线性代数中实对称阵的对角化定理，存在正交阵Γ,使 当矩阵Σ0(正定)时，矩阵L也称为Σ的平方根矩阵，记为. 当矩阵Σ0(正定)时,必有p×p非退化矩阵A使得 Σ=AA′ 若Σ≥0(非负定),必有p×q矩阵使得 Σ=′ 这里记Γ=(Γ1 | Γ2) , Γ1为p×q列正交阵(p ≥ q).并设： §2.2 多元正态分布的定义 在一元统计中，若U～N(0,1),则U的任意线性变换X=σU+μ～N(μ,)。利用这一性质，可以从标准正态分布来定义一般正态分布：若U～N(0,1),则称X =σU+μ的分布为一般正态分布,记为X ～N(μ, )。 此定义中，不必要求σ＞0,当σ退化为0时仍有意义。把这种新的定义方式推广到多元情况，可得出多元正态分布的第一种定义。 定义2.2.1 设U=(,…,Uq)′为随机向量, ,…,Uq相互独立且同N(0，1)分布；设μ为p维常数向量，A为p×q常数矩阵，则称X=AU + μ的分布为p维正态分布，或称X为p 维正态随机向量,记为X ～ Np(μ, AA′)。 简单地说，称q个相互独立的标准正态随机变量的一些线性组合构成的随机向量的分布为多元正态分布。 §2.2 多元正态分布的性质1 在一元统计中，若则X的特征函数为 当 X～N(0,1)时,φ(t)=exp［- /2］. 性质1 设U= (,…,Uq)′为随机向量, , …,Uq 相互独立且同 N(0,1)分布；令X=μ+AU,则X的特征函数为 这里t=(,…,), 故ΦX(t)为p元函数. 性质1的证明： 根据随机向量特征函数的定义和性质，经计算即可得出X的特征函数为ΦX(t)= E(eit￠X)= E(eit ￠(AU+μ) ) 令t′A=s′=(,…) ( ( 因 U 1 , … , U q 相互独立 , 乘积的期望等于期望的乘积 ) §2.2 多元正态分布的第二种定义 记Σ=AA′，则有以下定义。 定义2.2.2 若p维随机向量X的特征函数为: 则称X服从 p 维正态分布,记为X ～Np(μ,Σ) . 一元正态: (p=1) §2.2 多元正态分布的性质2 性质2 设X～Np(μ,Σ), B为s×p常数阵，d为s×1常向量，令Z=BX+d,则Z～Ns(Bμ+d , BΣB￠ ). 该性质指出正态随机向量的任意线性组合仍为正态分布. 证明： 因Σ ≥0, Σ可分解为Σ=AA ￠,其中