第6章节 参数估计及评价.ppt

第六章 参数估计 §6.1 点估计的几种方法 §6.2 点估计的评价标准 §6.5 区间估计 参数估计理论是数理统计学的重要组成部分, 有广泛的应用和实用价值。 参数? 所有可能取值组成的集合称为参数空间，常用?表示。参数估计问题就是根据所得样本对上述各种未知参数作出估计。 参数估计形式有两种：点估计与区间估计， 即 设总体X 服从分布 F(x,? )， ? 为未知参数 设 X1,…, Xn 是来自总体 X 的一个样本，我们用一个统计量 的取值作为? 的估计值， 称为? 点的估计（量），简称估计。在这里如何构造统计量 并没有明确的规定，只要它满足一定合理性即可。这就涉及到两个问题： §6.1 点估计的几种方法 6.1.1 矩法估计 例6.1.1 对某型号的20辆汽车记录其每加仑汽油的行驶里程(km)，观测数据如下： 29.8 27.6 28.3 27.9 30.1 28.7 29.9 28.0 27.9 28.7 28.4 27.2 29.5 28.5 28.0 30.0 29.1 29.8 29.6 26.9 经计算有 由此给出总体均值、方差和中位数的估计分别为: 28.695, 0.9185 和 28.6。 矩法估计的实质是用经验分布函数去替换总体分布，其理论基础是格里纹科定理。 二、分布F(x,θ)已知时 未知参数的矩法估计 设总体具有已知的概率函数 F(x, ?1, …,?k)， X1, …, Xn 是样本，假定总体的k阶原点矩E(Xk)存在，若令 E(Xj)=Aj ,从中解得?j ，j=1,…,k, ?j 表示成 A1, …, Ak 的函数?j = ?j(A1, …,Ak)，则?j 的矩法估计为 例6.1.2 X1, X2, …, Xn是来自(a,b)上的均匀分布U(a,b)的样本，a与b均是未知参数，求参数估计 因为 用 代替 E(X), 用A2代替 E(X2), 由此即可得到a, b的矩估计： 例 X1, X2, …, Xn是来自(a,b)上的均匀分布U(a,b)的样本，a与b均是未知参数，参数个数k=2，由于 不难推出 由此即可得到a, b的矩估计： 例6.1.3 设总体服从指数分布，由于E(X)=1/?， 即? =1/ E(X)，故? 的矩法估计为 另外，由于Var(X)=1/?2，其反函数为 因此，从替换原理来看，?的矩法估计也可取为 从上两例说明矩估计可能是不唯一的，这是矩法估计的一个缺点，此时通常应该尽量采用低阶矩给出未知参数的估计。 6.1.2 最大似然估计 1、似然估计的思想： 最大似然估计 定义 设总体的概率函数为p(x;? )，?是参数? 可能取值的参数空间，X1, X2 , …, Xn 是样本，将样本的联合概率函数看成? 的函数，用L(? ; x1, x2, …, xn) 表示，简记为L(? )， 称为样本的似然函数。 如果某统计量 满足 则称 是? 的最大似然估计，简记为MLE。 例6.1.7 对正态总体N(?,? 2)，θ=(?,? 2)是二维参数，设有样本 X1, X2 , …, Xn，则似然函数及其对数分别为 将 lnL(?,? 2) 分别关于两个分量求偏导并令其为0, 即得到似然方程组 (6.1.9) (6.1.10) 解此方程组，由(6.1.9)可得? 的最大似然估计为 将之代入(6.1.10)，得出? 2的最大似然估计 利用二阶导函数矩阵的非正定性可以说明上述估计使得似然函数取最大值。 ? ，? 2的极大似然估计量为 将样本值代入，得出? ,? 2的极大似然估计值 虽然求导函数是求极大似然估计最常用的方法，但并不是在所有场合求导都是有效的