概率论与数理统计第2版资源-宗序平 主编 概率统计71.ppt

7.1 点估计 一、矩估计法（简称“矩法”ME） 二、极大似然估计法 小 结 * * 第七章 第七章 参数估计 点估计 估计量的优劣性 一致最小方差无偏估计(UMVUE) 正态总体参数的区间估计 Bayes估计 什么是参数估计？ 参数是刻画总体某方面概率特性的数量. 当此数量未知时,从总体抽出一个样本，用某种方法对这个未知参数进行估计就是参数估计. 例如，X~N(? ,? 2), 若?, ? 2未知, 通过构造样本的函数, 给出 它们的估计值或取值范围就是参数估计 的内容. 点估计 区间估计 参数估计的类型 点估计 —— 估计未知参数的值 区间估计—— 估计未知参数的取值范围， 并使此范围包含未知参数 真值的概率为给定的值. 称其为? 的一个估计量，记为 注：F(x;?)也可用分布律或密度函数代替. 定义 设X1,… ,Xn是总体X的一个样本，其分布函数 为F(x; ? ),???。其中?为未知参数, ?为参数空 间, 若统计量g(X1,… ,Xn)可作为?的一个估计,则 若x1，… ，xn 是样本的一个观测值， 由于g(X1,… ,Xn) 是实数域上的一个点，现用它来估计?， 故称这种估计为点估计。 点估计的经典方法是矩估计法(ME) 与极大似然估计法(MLE)。 称为参数?的估计值。 在不致混淆的情况下统称估计量与估计值 为估计，并都简记为 设总体X的分布函数为F(x,? ), ?为k维未知参数,并设随机变量X的k阶矩存在，即 存在, 其基本思想是：以样本矩代替相应的总体矩。 矩估计是1900年英国统计学家K. Pearson 提出 的一种统计方法. 上述方程组的解即为参数? 的矩估计，记为 注1.用样本矩作为总体同阶矩的估计，即 注2.约定：若 是未知参数?的矩估计，则g(?)的矩估计为g( ). 例1：设X1,… ,Xn为取自总体B(1,p),的样本，其中0p1未知，求p的矩估计。 解: E(X)=p, 为参数p的矩估计. 解 例2 设总体X的概率密度为 其中? 为未知参数，且? 0，试求? 的矩估计. 的矩估计。 解: 例3：设X1,… ,Xn为取自 总体的样本，求参数 例4. 设总体X的概率密度为 解: X1,… ,Xn为样本，求参数?的矩估计。 解: 似然估计得到了广泛的应用。 极大似然估计最早是由高斯1821年提出的，但 一般将之归功于英国统计学家R.A.Fisher，因 为R.A.Fisher在1922年再次提出极大似然估计， 并证明了极大似然估计的一些性质，使得极大 命中了一发，谁射中的？ 1、极大似然思想 有两个射手，一人的命中率为0.9,另一人的命 中率为0.1, 现在他们各向目标射击了一发，结果 假如甲乙两人仅对目标各射击了一次，结果甲击中，而乙未击中目标。请问谁的水平高？ 请回答。 答：甲的技术好于乙。 这虽有片面性，但显然是合理的 又如一件事件A发生的概率为0.1或0.9，仅作一次试验，结果事件A发生了，自然认为事件A发生的概率为0.9，而不是0.1。基于上述基本思想，引入极大似然估计。 一般说，事件A发生的概率与参数???有关，? 取值不同，则P(A)也不同。因而应记事件A发生的概率为P? (A).若A发生了，则认为此时的?值应是在?中使P? (A)达到最大的那一个。这就是极大似然思想. 事件发生的概率为 若总体X是离散型随机变量，其分布律 i=1, 2, … 为待估参数. 是来自总体X的样本，若 是样本的 观察值，则 1 离散型 它是 的函数，称 为样本的似然函数. 由上面的讨论，在 取值的可能范围 内，应选择使概率 达到最大的 的估计，即使 作为 这样得到的 与样本值有关， 称为参数的极大似然估计(MLE)而相应的统计量为 例6.设X1,… ,Xn为取自参数为?的泊松分布总体的样本，求?的极大似然估计 解: 令 2. 连续型 若总体X是连续型的，其概率分布密度为 根据第二章随机变量性质知，随机 变量X落在(x, x+dx)中的概率近似为 设 是来自X的样本，则 落在(x1, x1+dx1)∩…∩(xn, xn+dxn)中的概率为 称 为样本的似然函数。 与离散型的情况一样，挑选使 达到 最大的 作为 的估计值，即使 的极大似然估计(MLE). 则称 为 注1 求极大似然估计的步骤 (1) 求似然函数 (2)求对数似然函数 (3) 列似然方程, 令 若该方程有解，则其解就是 特别地，若似然函数中含有多个未知参数，则可解方程组 的极大似然估计。 解: 例7：设X1,… ,Xn为取自 总体的样本，求参