21点估计和估计量及求法.docVIP

第二章 参数估计 本章问题：母体的分布形式已知，但其中含有未知参数，如何借助子样估计未知参数？ §1 点估计和估计量的求法 1.1 何谓参数估计 （1）参数：指母体分布中的未知参数. （2）参数估计(parameter estimation)：借助子样值对母体参数做出估计. ①若用子样的一个函数去估计某个未知参数的值，则称是这个参数的点估计(point estimation)（一种定值估计）. ②若用子样的两个函数去估计某个未知参数所在的区间，则称是这个参数的区间估计(interval estimation)（设）. （3）参数的点估计： 一般，设母体的分布函数的形式已知，但是k个未知参数，是来自母体的子样。构造适当的统计量分别去估计. 称为的估计量(estimator)，记为. 当子样有观测值时，估计量有观测值 ，称为的一个估计值(estimate)，记为. 估计量是随机变量，估计值是常数，有时统称为的估计(estimation). 依照构造统计量的方法的不同，点估计又分为矩法、极大似然估计法等. 1.2 矩法 （1）矩估计的方法(method of moment)： ①求母体的l阶矩 可知的表达式中含有未知参数. ②求子样的l阶矩 当子样有观测值时，有相应的观测值，是已知的. ③令（用已知的去估计含有未知参数的），即令 这是一个含有k个未知参数、k个方程的方程组, 解之，则可得出所求的k个未知参数的矩估计量. 例2.1.1 ，，未知，求的矩估计. 解：母体有1个未知参数. ①母体的1阶矩： ②子样的1阶矩： ③令 ：即，解得. 例2.1.2 设母体有分布密度 ，，未知，求的矩估计. 解：母体有1个未知参数. ①母体的1阶矩：. ②子样的1阶矩：. ③令 ： 即 ，解得 . 例2.1.3 设母体有：，但未知，分别求的矩估计. 解： 母体有2个未知参数. ①母体的1、2阶矩： ，. ②子样的1、2阶矩： ，. ③令，即，解得 注：结果表明，母体均值与方差的矩估计量的表达式不受母体分布的影响，分别是子样均值、子样方差. 特别，当母体，未知时有：；又当母体，未知时令： ，于是有：. 例2.1.4 设母体有分布密度， ，未知，这时称服从参数为的分布，求的矩估计. 解：母体有2个未知参数，由上题结论 ①母体均值与母体方差：  类似可得： ②子样均值与子样方差： ③ 令 ，解得. （2）矩估计的理论依据： 设为母体的一个子样，则相互独立且均与母体有相同分布，从而 相互独立且均与有相同分布，由辛钦大数定律知： 即：当n充分大时，几乎必然与充分接近，因此，以去估计的矩估计方法是合理的. 1.3 最大似然估计法 引例：有一大批产品，废品率为未知, 现从中任取100件产品，其中有10件废品，试估计未知参数. 分析：设随机试验为从这批产品中任取一件，观察其质量. 令为所取得的废品数，则，分布律为 即母体服从参数为的0-1分布. 此分布律又可记为 ， 又设为一个子样，为其子样值，这100个数值中的某10个为1，另90个为0。故：. 这意味着随机试验的结果是事件发生了，其概率为 可见，此概率值随母体分布中的未知参数取值而变，但既然事件已经发生了，自然有理由认为的取值应使其概率达到最大。 为此，令： 此估计值称为未知参数的最大似然估计值. （1）基本思想： 若子样有观测值，则意味着在试验中事件发生了. 该事件的概率与母体的未知参数有关，故未知参数估计值的选取理应使已经发生的这一事件的概率达到最大. 这样选取的估计值称为未知参数的最大似然估计值(maximum likelihood estimate)；相应的估计量称为未知参数的最大似然估计量(maximum likelihood estimator). 简记为MLE或ML估计. （2）求法： 当为离散型母体 设母体的分布律为 其中的函数形式已知，但参数（一维或多维）未知。若子样有观测值，则已发生的事件的概率 称为似然函数(likelihood function). 再求出使关于的函数取得最大值的作为未知参数的最大似然估计. 例2.1.5 设，未知，求的最大似然估计 解：①母体的分布律为 ②似然函数 ③取对数 ④求的最大值点（此即的最大值点） 令 . 此为的最大似然估计值；的最大似然估计量为. 当为连续型母体 设母体的分布密度为 其中的函数形式已知，但参数（一维或多维）未知。子样有观测值，则似然函数取为，再求使取得最大值的. 例2.1.6 设，未知，求的最大似然估计. 解： ①母体的分布密度为 ②似然函数 ③取对数 ④求最大值点,令： 解得 注：上两例中参数的最大似然估计分别与矩估计的结果相同，有时会不同，如下例。 例2.1.7 设母体，未知，求的最大似然估计. 解：①母体的分