第三章节多元正态分布.ppt

第三章 多元正态分布 为了对未知参数作出估计, 首先应通过好的统计思想产生合理的估计量，而这样的估计量往往不止一个. 问题 (1) 对于同一个参数究竟采用哪一个估计量好? (2) 评价估计量的标准是什么? 下面介绍几个常用标准（无偏、有效、相合性和充分性）. 六、估计量的性质 无偏估计的实际意义: 无系统误差. 以买水果为例加以说明 1. 无偏性 解 无偏 有偏 无偏估计 是否唯一 ？ 由于方差是随机变量取值与其数学期望的偏离程度,所以无偏估计以方差小者为好. 2. 有效性 * 多元统计分析 ? 谢中华, 天津科技大学数学系. 第一节 多元正态分布的定义 一、一元正态分布回顾 一个游戏：高尔顿钉板游戏 考察某一学科考试成绩的分布 考察人类身高的分布情况 思考：以上分布具有什么样的特点？ 1、一元正态分布的定义 则称 x 服从参数为 ? , ? 2 的正态分布， 记作 x ~ N ( ? , ? 2 ) 定义3.1 若r.v. x 的密度函数为 为常数， 其中 亦称高斯 (Gauss)分布 2、标准正态分布 ?=0 , ?=1 的正态分布称为标准正态分布，记作 x ~ N (0 ,1 ) 密度函数记为 3、标准正态分布与一般正态分布之间的关系 记 u ~ N (0 ,1 )，则 x=?+ ?u ~ N ( ? , ? 2 ) 二、多元正态分布的定义 定义3.2 设p 维随机向量 则 u 的密度函数为 u的均值和协方差矩阵分别为 u的分布称为均值为0，协方差矩阵为I 的p 元正态分布，记作 设p 维随机向量 u ~ Np (0, I ) ，下面考虑 u 的一个非退化变换 x = m + A u 的分布，这里 x 的均值和协方差矩阵分别为 x 的密度函数为 （3.1.5） x的分布称为非退化的p 元正态分布，记作 更一般的，设p 维随机向量 u ~ Np (0, I ) ， 为常数矩阵，则 x = m + A u 的分布称为 p 元正态分布，记作 其中 . 若 rank(A) = p ，则 S-1 存在，此时x的分布称为非退化的p元正态分布；若 rank(A) p ，则 S-1 不存在，此时x的分布称为退化的p元正态分布，不存在概率密度. 解 例3.1.1(二元正态分布) 设 ，这里 试写出x的概率密度的表达式，并观察其图像。 x的概率密度为 1. 设x是一个p 维随机向量，则x服从多元正态分布，当且 仅当它的任何线性组合 a’x( a 为p 维常数向量 )均服从 一元正态分布。 第二节 多元正态分布的性质 解 解 试写出x1–x2的分布。 注意：性质3说明了多元正态分布的任何边际分布仍为多元正态分布，但反之不成立。 则 注意：性质7说明了多元正态变量的子向量之间互不相关和独立是等价的。 则 第三节 极大似然估计及估计量的性质 一、总体、样本、样本数据矩阵 1. 总体 2. 样本 ，其中 显然 3. 样本数据矩阵 二、多元样本的数字特征 1. 样本均值向量 2. 样本离差矩阵 3. 样本协方差矩阵 ？ 其中 其中 三、样本 的联合概率密度 由于 ？ ？ 所以 这里 ？ 四、m 和S 的极大似然估计 1. 似然函数 求解极值问题： 可得m 和S 的极大似然估计， 先固定S 考虑 ？ ？ 于是 由此引理可知，当n p 时，A 正定，m 和S 的极大似然估计分别为 此时似然函数最大值为 思考：当m 已知时，S 的极大似然估计如何表示？ 答： 五、相关系数的极大似然估计 1. 极大似然估计的不变性 设参数 的极大似然估计是 ，变换 是一一对应的，则 的极大似然估计就是 2. 简单相关系数的极大似然估计 称 为样本相关系数， 为样本相关矩阵？ 3. 偏相关系数的极大似然估计 对于p 元总体，将样本协方差矩阵S 作如下剖分 则 其中 4. 复相关系数的极大似然估计 * 多元统计分析 ? 谢中华, 天津科技大学数学系. 3．设，则x的任何子向量也服从（多元）正态分布，其均值为的相应子向量，协方差矩阵为的相应子矩阵。 例3.2.2　设，a为p维常数向量,写出的分布． 2．设，其中C为常数矩阵，b为r维常数向量，则 例3.2.3　设，这里 4．设相互独立，且，则对任意n个常数k1，k2，… kn 例3.2.4　设，