概率论与数理统计课件讲解7-1 参数估计.ppt

第一节 参数的点估计 一、点估计问题的提法 二、估计量的求法 例4 (方法2) 注 (2) 最大似然估计量(值) (3) 求最大似然估计(MLE)的步骤: 三、内容小结 费希尔资料 解 例8 这一估计量与矩估计量是相同的. 解 X 的似然函数为 例9 它们与相应的矩估计量相同. 解 例10 第一节 参数的点估计 第二节 估计量的评价标准 第三节 参数的区间估计 参数估计 一、点估计问题的提法 二、估计量的求法 三、内容小结 第七章 注意： 由于估计量是样本的函数, 是随机变量, 故对不同的样本值, 得到的参数值往往不同, 因此如何求得参数? 的估计量便是问题的关键所在. 常用构造估计量的方法: (两种) 1. 矩估计法 2. 最(极)大似然估计法. 1. 矩估计法 基本思想：用样本矩估计总体矩 , 用样本矩的连续函数来估计总体矩的连续函数, 理论依据: 它是基于一种简单的“替换”思想建立起来的一种估计方法 . 是英国统计学家K.皮尔逊最早提出的 . 大数定律 记总体k阶原点矩为 样本k阶原点矩为 记总体k阶中心矩为 样本k阶中心矩为 用样本矩来估计总体矩, 用样本矩的连续函数来估计总体矩的连续函数, 这种估计法称为矩估计法. 设总体 X 的分布函数为 m个待估参数 (未知) 为来自总体X的简单随机样本. 矩估计法的具体步骤: 矩估计量的观察值称为矩估计值. 注 方程组 中方程的个数等于待估参数的个数. 解 根据矩估计法，令 例1 解 例2 解方程组得到a, b的矩估计量分别为 解 解方程组得到矩估计量分别为 例3 注. 上例表明: 总体均值与方差的矩估计量的表达式不因不同的总体分布而异. 一般地: 设总体X的分布密度为 为来自总体X的样本. 求参数 ? 的矩估计量. 分析： 一般地， 只需要求： ? ? 的矩估计量. 不含有?， 故不能由此得到? 的矩估计量. 解(方法1) 要求： — ? 的矩估计量 要求： ? ? 的矩估计量： 注 此例表明：同一参数的矩估计量可不唯一. 矩估计法的优点：简单易行, 并不需要事先 知道总体是什么分布 . 缺点：当总体类型已知时，没有 充分利用分布提供的信息. 一般场合下, 矩估计量不 具有唯一性 . 其主要原因在于建立矩法方程时，选取那些总体矩用相应样本矩代替,带有一定的随意性 . 小结： 最大似然估计法是在总体类型已知条件下使用的一种参数估计方法 . 它首先是由德国数学家 高斯在1821年提出的 , Gauss Fisher 然而，这个方法常归功于 英国统计学家费歇 . 费歇在1922年重新发现了 这一方法，并首先研究了这种方法的一些性质 . 2. 最大似然估计法 为自总体X的样本(X1,X2,…,Xn) 的一个观察值，则称样本的联合分布 (1) 似然函数 定义7.1 设总体X的分布密度(或分布律)为 p(x;? ), 又设 p(x1, x2, … , xn; ? ) 为似然函数. 1o 离散型X 此时， 2o 连续型X 此时， 定义 最大似然估计值 (MLE). maximum likelihood estimate 注 1o 对于给定的样本值 求? 的最大似然估计问题，归结为求 L(? ) 的最大值问题; 则称 由于 而 有相同的最大值点，因此， 为最大似然估计的必要条件为 称它为似然方程组，其中 注 1o 上述求最大似然估计的方法，要求lnL可微， 若不满足此条件，则须从定义出发求最大似然估计. 2o 似然方程组是最大似然估计的必要条件， 而非充分条件. 解 似然函数 例7 这一估计量与矩估计量是相同的.