《应用多元》第四版(第三章)教程.ppt

第三章 多元正态分布 §3.1 多元正态分布的定义 §3.2 多元正态分布的性质 §3.3 极大似然估计及估计量的性质 §3.4 复相关系数和偏相关系数 §3.5 和(n − 1) S的抽样分布 *§3.6 二次型分布 1 §3.1 多元正态分布的定义 一元正态分布N(μ,σ2)的概率密度函数为 若随机向量 的概率密度函数为 则称x服从p元正态分布，记作x~Np(μ, Σ)，其中，参数μ和Σ分别为x的均值和协差阵。 2 例3.1.1（二元正态分布 ） 设x~N2(μ, Σ)，这里 易见，ρ是x1和 x2的相关系数。当|ρ|1时，可得x的概率密度函数为 3 二元正态分布的密度曲面图 下图是当 时二元正态分布的钟形密度曲面图。 4 二元正态分布等高线 等高（椭圆）线： 上述等高线上的密度值 5 二元正态分布的密度等高线族（使用SAS/INSIGHT，由10000个二维随机数生成） 6 概率密度等高面 {x：(x−μ)′Σ−1(x−μ)=c2} 这是一个（超）椭球曲面，中心在μ，而Σ决定了其形状和方向。 7 §3.2 多元正态分布的性质 *(1)略。 (2) 。 性质(2)常可用来证明随机向量服从多元正态分布。 (3)设x~Np (μ, Σ)，y=Cx+b，其中C为r×p 常数矩阵，则 该性质表明，（多元）正态变量的任何线性变换仍为（多元）正态变量。 8 例3.2.2 设x~Np(μ, Σ)，a为p维常数向量，则由上述性质(2)或(3)知， (4)设x~Np(μ, Σ)，则x的任何子向量也服从（多元）正态分布，其均值为μ的相应子向量，协方差矩阵为Σ的相应子矩阵。 该性质说明了多元正态分布的任何边缘分布仍为（多元）正态分布。 需注意，随机向量的任何边缘分布皆为（多元）正态分布⇏该随机向量服从多元正态分布。 反例：习题2.3。 9 还需注意，正态变量的线性组合未必就是正态变量。 这是因为： x1,x2,⋯,xn均为一元正态变量 ⟸(⇏)x1,x2,⋯,xn的联合分布为多元正态分布 ⟺x1,x2,⋯,xn的一切线性组合是一元正态变量 例3.2.4 设x~N4(μ, Σ)，这里 10 则 (i) ； (ii) ； (iii) 。 11 (5)设x1,x2,⋯,xn相互独立，且xi~Np(μi, Σi) ，i=1,2,⋯,n，则对任意n个常数k1,k2,⋯,kn，有 此性质表明，独立的多元正态变量（维数相同）的任意线性组合仍为多元正态变量。 (6)设x~Np(μ, Σ)，对x, μ, Σ(0)作如下的剖分： 12 则子向量x1和x2相互独立，当且仅当Σ12=0。 可作一般化推广，并对于多元正态变量而言，其子向量之间互不相关和相互独立是等价的。 例3.2.5 设x~N3(μ,Σ)，其中 则x2和x3不独立，x1和(x2,x3)独立。 (7)设x~Np(μ, Σ), Σ0，则 *(8)略 13 *(9)略 *(10)略 (11)设x~Np(μ, Σ), Σ0，作如下剖分 则给定x2时x1的条件分布为 ，其中 μ1·2和Σ11·2分别是条件数学期望和条件协方差矩阵，Σ11·2通常称为偏协方差矩阵。 14 这一性质可作一般化推广，并对于多元正态变量，其子向量的条件分布仍是（多元）正态的。 例3.2.7 设x~N3(μ, Σ)，其中 试求给定x1+2x3时 的条件分布。 15 解 令 ，于是 16 给定y2时y1的条件均值和条件协差阵分别为 所以 17 §3.3 极大似然估计及估计量的性质 简单随机样本（简称样本）： 满足：x1,x2,⋯,xn独立，且与总体分布相同。 设x~Np(μ, Σ) , Σ0，x1,x2,⋯,xn是从中抽取的一个样本。 数据矩阵或观测值矩阵： 一、极大似然估计 二、估计量的性质 18 一、极大似然估计 1. μ和Σ的极大似然估计 2.相关系数的极大似然估计 19 1.μ和Σ的极大似然估计 似然函数：是样本联合概率密度 f (x1,x2,⋯,xn)的任意正常数倍，记为L(μ, Σ)。不妨取 20 极大似然估计 一元正态情形： 多元正态情形： 其中 称为样