农大数理统计课件 (7).pptVIP

第六章 参 数 估 计 矩估计三部曲 求解总体矩（一般来说，有几个参数就求几阶矩，得到的一定是参数的函数） 用样本矩代替总体矩建立方程（组） 求解方程（组） 2、用定义直接求 当用上述求导方法求参数的 MLE 有时行不通(如似然函数不可微)，这时要用最大似然原理(即定义)来求. 直接从函数形式出发 极大似然估计的具体步骤： 例3. 设总体 X 具有分布律 pk 3 2 1 X 其中θ(0θ1) 为未知参数。已知取得了样本值 x1=1，x2=2，x3＝1，试求θ的最大似然估计值。 例4 设总体 X ~N( ) , 未知 . 是来自 X 的样本值 , 试求 的最大似然估计量 . 似然函数为 解： X 的概率密度为 于是 令 总体 样本 统计量 描述 作出推断 研究统计量的性质和评价一个统计推断的优良性，完全取决于其抽样分布的性质. 简单随机抽样 参数估计问题 假设检验问题 点 估 计 区间估计 统计 推断 的 基本 问题 第一节 点估计的方法 第二节 点估计的评价标准 第三节 最小方差无偏估计 第四节 贝叶斯估计 第五节 区间估计 参数的类型： 参数是刻画总体某方面概率特性的数量.参数的类型有 1、分布中所含的未知参数 例如，X ~N (? ,? 2), 若 ? , ? 2 未知, 通过构造统计量, 给出它们的估计值或取值范围就是参数估计的内容. 区 间 估 计 点 估 计 2、分布中所含的未知参数θ的函数 g(θ) 例如：X ~N (? ,? 2), 其中? , ? 2 未知，假设 X 是血液检验的结果，感兴趣的是检验值不超过 1 的人数的比例，即要估计 即为 ? ,? 的函数。 3、分布的各种特征数 例如：EX，VarX , 分布中位数等。 一般地，用θ（可以是向量）来表示参数，它的所有可能取值组成的集合称为参数空间，用Θ表示。 参数估计问题是利用从总体抽样得到的样本, 通过估计量来估计上述各种参数。估计量就是估计总体参数的统计量. 第一节 参数的点估计 一、矩(法)估计 二、最大似然估计 一、矩法估计 1、矩法估计（Moment Estimation) 理论基础：大数定律（频率趋向于概率） 相互独立， 设随机变量序列 它们服从相同的分布，且具有有限的数学期望： 则 则 独立同分布, 且有期望： 则由大数定律， 设 是来自总体 X 的容量为 n 的样本, 矩估计法 指导思想 用样本 k 阶矩作为总体 k 阶矩的估计量, 建立含有待估参数的方程, 从而解出待估参数。 设待估计的参数为 总体的 r（r≥k） 阶矩存在，记为 样本 X1, X2,…, Xn 的 r 阶矩为 令 —— 含未知参数 ?1,?2, ?,?k 的方程组 具体步骤 解方程组 , 得 k 个统计量： 未知参数 ?1, ?,?k 的矩估计量 代入一组样本观测值得 k 个数: 未知参数 ?1, ?,?k 的矩估计值 例1 设总体 X ~ Exp(?), X1, X2,…, Xn 为总体的样本, 求? 的矩法估计量. 解 注 能用低阶矩处理的就不用高阶矩。 令 故 例2 设总体 X ~ U (a, b), a, b 未知, 求参数 a, b 的矩法估计量. 解 令 于是 a , b 的矩估计量为 解 例3 设总体 X 的均值 和方差 都存在 , 未知 . X1, X2, …Xn 是来自 X 的样本 , 试求 的矩估计量 . 令 注：该例表明无论总体 X 服从什么分布，只要总体的二阶矩存在，则样本均值就是总体均值的矩估计，样本的二阶中心矩就是总体方差的矩估计. 优点是简单易行,并不需要事先知道总体的分布形式 . 缺点（1）要求总体相应原点矩必须存在，对于不存在原点矩的总体如Cauchy分布，则不能用矩估计。 （2）当总体类型已知时，没有充分利用分布提供的信息，可以作为其它方法的初始值 . 矩法的优缺点： 二. 最大似然估计（Maximum Likelihood Estimation) 例1 : 有两外形相同的箱子,各装100个球 一箱 99个白球 1 个红球 一箱 1 个白球 99个红球 现从两箱中任取一箱, 并从箱中任取