第6章+参数估计及评价.PPT.pptVIP

第六章 参数估计 ; 引言;参数估计理论是数理统计学的重要组成部分, 有广泛的应用和实用价值。;这类问题称为参数估计.;参数? 所有可能取值组成的集合称为参数空间，常用?表示。参数估计问题就是根据所得样本对上述各种未知参数作出估计。 参数估计形式有两种：点估计与区间估计， 即;设总体X 服从分布 F(x,? )， ? 为未知参数 设 X1,…, Xn 是来自总体 X 的一个样本，我们用一个统计量 的取值作为? 的估计值， 称为? 点的估计（量），简称估计。在这里如何构造统计量 并没有明确的规定，只要它满足一定合理性即可。这就涉及到两个问题：;§6.1 点估计的几种方法 ;例6.1.1 对某型号的20辆汽车记录其每加仑汽油的行驶里程(km)，观测数据如下： 29.8 27.6 28.3 27.9 30.1 28.7 29.9 28.0 27.9 28.7 28.4 27.2 29.5 28.5 28.0 30.0 29.1 29.8 29.6 26.9 经计算有 由此给出总体均值、方差和中位数的估计分别为: 28.695, 0.9185 和 28.6。 矩法估计的实质是用经验分布函数去替换总体分布，其理论基础是格里纹科定理。;二、分布F(x,θ)已知时 未知参数的矩法估计 ;例6.1.2 X1, X2, …, Xn是来自(a,b)上的均匀分布U(a,b)的样本，a与b均是未知参数，求参数估计 因为 用 代替 E(X), 用A2代替 E(X2), 由此即可得到a, b的矩估计：;例 X1, X2, …, Xn是来自(a,b)上的均匀分布U(a,b)的样本，a与b均是未知参数，参数个数k=2，由于 不难推出 由此即可得到a, b的矩估计：;例6.1.3 设总体服从指数分布，由于E(X)=1/?， 即? =1/ E(X)，故? 的矩法估计为 另外，由于Var(X)=1/?2，其反函数为 因此，从替换原理来看，?的矩法估计也可取为 从上两例说明矩估计可能是不唯一的，这是矩法估计的一个缺点，此时通常应该尽量采用低阶矩给出未知参数的估计。;6.1.2 最大似然估计 ; 2. 最大似然法;最大似然估计 ; 如果某统计量 满足 则称 是? 的最大似然估计，简记为MLE。; 下面举例说明如何求极大似然估计;对数似然函数为：;对p求导并令其为0，; (4) 在最大值点的表达式中, 用样本值代入就 得参数的最大似然估计值 .;例6.1.7 对正态总体N(?,? 2)，θ=(?,? 2)是二维参数，设有样本 X1, X2 , …, Xn，则似然函数及其对数分别为 ; 将 lnL(?,? 2) 分别关于两个分量求偏导并令其为0, 即得到似然方程组 (6.1.9) (6.1.10); 解此方程组，由(6.1.9)可得? 的最大似然估计为 将之代入(6.1.10)，得出? 2的最大似然估计 利用二阶导函数矩阵的非正定性可以说明上述估计使得似然函数取最大值。 ;? ，? 2的极大似然估计量为 将样本值代入，得出? ,? 2的极大似然估计值 ; 虽然求导函数是求极大似然估计最常用的方法，但并不是在所有场合求导都是有效的。; 解 似然函数 要使L(? )达到最大，首先一点是示性函数取值应该为1，其次是1/? n尽可能大。由于1/? n是?的单调减函数，所以? 的取值应尽可能小，但示性函数为1决定了? 不能小于X(n)，由此给出?的最大似然估计： 。 ;定理3.1 最大似然估计有一个简单而有用的性质：如果 是? 的极大似然估计，则对任一函数 g(? )，其最大似然估计为 。该性质称为最大似然估计的不变性，从而使一些复杂结构的参数的最大似然估计的获得变得容易了。 ; 例6.1.9 设 x1 , x2 , …, xn是来自正态总体N(? ,? 2) 的样本，则?和? 2的极大似然估计为 ，于是由不变性可得如下参数的