点估计的几种方法.ppt

§6.1 点估计的几种方法 §6.2 点估计的评价标准 §6.3 最小方差无偏估计 §6.4 贝叶斯估计 §6.5 区间估计 一般常用? 表示参数，参数? 所有可能取值组成的集合称为参数空间，常用?表示。参数估计问题就是根据样本对上述各种未知参数作出估计。 参数估计的形式有两种：点估计与区间估计。 设 x1, x2,…, xn 是来自总体 X 的一个样本，我们用一个统计量 的取值作为? 的估计值， 称为? 的点估计（量），简称估计。在这里如何构造统计量 并没有明确的规定，只要它满足一定的合理性即可。这就涉及到两个问题： 6.1.1 替换原理和矩法估计 例6.1.1 对某型号的20辆汽车记录其每加仑汽油的行驶里程(km)，观测数据如下： 29.8 27.6 28.3 27.9 30.1 28.7 29.9 28.0 27.9 28.7 28.4 27.2 29.5 28.5 28.0 30.0 29.1 29.8 29.6 26.9 二、概率函数P(x,θ)已知时未知参数的矩法估计 设总体具有已知的概率函数 P(x, ?1, …, ?k)， x1, x2 , …, xn 是样本，假定总体的k阶原点矩?k存在，若?1, …, ?k 能够表示成 ?1, …, ?k 的函数?j = ?j(?1, …,?k)，则可给出诸?j 的矩法估计为 例6.1.2 设总体服从指数分布，由于EX=1/?， 即? =1/ EX，故? 的矩法估计为 例6.1.3 x1, x2, …, xn是来自(a,b)上的均匀分布U(a,b)的样本，a与b均是未知参数， 求a, b的矩估计。 6.1.2 极(最)大似然估计 定义6.1.1 设总体的概率函数为P(x;? )，?是参数? 可能取值的参数空间，x1, x2 , …, xn 是样本，将样本的联合概率函数看成? 的函数，用L(? ; x1, x2, …, xn) 表示，简记为L(? )，称为样本的似然函数。有 如果某统计量 满足 则称 是? 的极(最)大似然估计，简记为MLE（Maximum Likelihood Estimate）。 例6.1.6 设一个试验有三种可能结果，其发生概率分别为 虽然求导函数是求极大似然估计最常用的方法，但并不是在所有场合求导都是有效的。 极大似然估计有一个简单而有用的性质：如果 是? 的极大似然估计，则对任一函数 g(? )，其极大似然估计为 。该性质称为极大似然估计的不变性，从而使一些复杂结构的参数的极大似然估计的获得变得容易了。 例6.1.9 设 x1 , x2 , …, xn是来自正态总体N(? ,? 2) 的样本，则?和? 2的极大似然估计为 ， 于是由不变性可得如下参数的极大似然估计，它们是: 概率 的MLE是 ； * * 上一章介绍的抽样和抽样分布已为讨论统计推断 打下了必要的理论基础。何谓统计推断？就是利用资 料提供的信息，做出尽可能精确和可靠的结论。严格 地说，就是从总体中抽取一个样本获得信息后，对 总体做出推断。由于信息的有限性和样本的随机性, 做出的推断不可能绝对准确，总会有一定程度的不确 定性，而所出现的不确定性可以用概率的大小来衡量。 于是，我们称伴有一定概率的推断为统计推断（statistical inference）  现在我们来介绍一类重要的统计推断问题 参数估计问题是利用从总体抽样得到的信息来估计总体的某些参数或者参数的某些函数. 估计废品率 估计新生儿的平均体重 估计湖中鱼数 … … 估计平均降雨量 其一 是如何给出估计，即估计的方法问题； 其二 是如何对不同的估计进行评价，即估 计的好坏判断标准。 常用的主要有如下两种： 矩估计法和最大似然估计法. §6.1 点估计的几种方法 一、矩法估计 替换原理是指用样本矩及其函数去替换相应的总体矩及其函数，譬如： 用样本均值估计总体均值E(X)，即 ； 用样本方差估计总体方差Var(X)，即 用样本的 p 分位数估计总体的 p 分位数， 用样本中位数估计总体中位数。 矩法估计的实质是用经验分布函数去替换总体分布，其理论基础是大数定律。 由此给出总体均值、方差和中位数的估计