参数估计矩法和极大似然法教程.pptVIP

参数估计 参数估计 点估计 区间估计 参数的点估计 点估计概念 求估计量的方法 小结  总体 样本 统计量 描述 作出推断 研究统计量的性质和评价一个统计推断的优良性，完全取决于其抽样分布的性质. 随机抽样  现在我们来介绍一类重要的统计推断问题 参数估计问题是利用从总体抽样得到的信息来估计总体的某些参数或者参数的某些函数. 参数估计 估计IC废品率 估计电子产品的重量 估计湖中鱼数 … … 估计降雨量 在参数估计问题 中，假定总体分 布形式已知，未 知的仅仅是一个 或几个参数. Chip 这类问题称为参数估计. 参数估计问题的一般提法 X1,X2,…,Xn 要依据该样本对参数 作出估计, 或估计 的某个已知函数 . 现从该总体抽样，得样本 设有一个统计总体 , 总体的分布函数为 F( x, ) ，其中 为未知参数 ( 可以是向量) . （假定平均面积服从正态分布 ） 设这5个数是: 1.65 1.67 1.68 1.78 1.69 单位mm2 估计 为1.68， 这是点估计. 这是区间估计. 估计 在区间 [1.57, 1.84] 内， 例如我们要估计某批芯片的平均面积. 现从该总体选取容量为5的样本，我们的任务是要根据选出的样本（5个数）求出总体均值 的估计. 而全部信息就由这5个数组成 . 一、点估计概念 随机抽查100笔记本电脑 , … 得100个数据 10,7,6,6.5,5,5.2, …（磅） 呢 ? 据此,我们应如何估计 和 而全部信息就由这100个数组成 . 例1 已知某批笔记本电脑的重量 , 未知 为估计 : 我们需要构造出适当的样本的函数 T(X1,X2,…Xn) ， 每当有了样本，就代入该函数中算出一个值，用来作为 的估计值 . 把样本值代入T(X1,X2,…Xn) 中， 估计值 . T(X1,X2,…Xn) 称为参数 的点估计量， 得到 的一个点 我们知道,若 , 由大数定律, 自然想到把样本重量的平均值作为总体平均重量的一个估计. 样本重量的平均值 则 . 用样本重量的均值 估计 . 类似地，用样本重量的方差 估计 . 使用什么样的统计量去估计 ？ 可以用样本均值; 也可以用样本中位数; 还可以用别的统计量 . 问题是: 二、寻求估计量的方法 1. 矩估计法 2. 极大似然法 3. 最小二乘法 4. 贝叶斯方法 …… 这里我们主要介绍前面两种方法 . 最大似然法 它是在总体类型已知条件下使用的一种参数估计方法 . 它首先是由德国数学家高斯在 1821年提出的 . Gauss Fisher 然而,这个方法常归功于英国统计学家费歇 . 费歇在1922年重新发现了这一方法，并首先研究了这种方法的一些性质 . 最大似然法的基本思想 先看一个简单例子： 一只野兔从前方窜过 . 是谁打中的呢？ 某位同学与一位猎人一起外出打猎 . 如果要你推测， 你会如何想呢? 只听一声枪响，野兔应声倒下 . 你就会想，只发一枪便打中, 猎人命中的概率一般大于这位同学命中的概率 . 看来这一枪是猎人射中的 . 这个例子所作的推断已经体现了极大似然法的基本思想 . 最大似然估计原理： 当给定样本X1,X2,…Xn时，定义似然函数为： 设X1,X2,…Xn是取自总体X的一个样本，样本的联合密度(连续型）或联合分布律 (离散型)为 f (x1,x2,… ,xn ; ) . f (x1, x2 ,…, xn; ) 这里 x1, x2 ,…, xn 是样本的观察值 . 似然函数： 最大似然估计法就是用使 达到最大值的 去估计 . 称 为 的最大似然估计值 . 看作参数 的函数，它可作为 将以多大可 能产生样本值 x1, x2,… ,xn 的一种度量 . f (x1,x2,…, xn; ) 而相应的统计量 称为 的最大似然估计量 . 两点说明： 1、求似然函数L( ) 的最大值点，