数理统计stat4.pptVIP

当总体的k阶矩不存在，或未知参数不能表为总体的原点矩的函数形式，或虽然理论上能表达，但其形式不好求时，矩估计就不再有效了。 第二章 参数估计 一、参数及其估计 二、替换原理、矩估计 三、极大似然估计法 点估计 矩估计方法 极大似然估计法 区间估计 设X为一总体, 它的分布族为 (有的材料记为统计模型 ) 引 例 例1 某灯泡厂灯泡的寿命X?N(?,?2)，当?,?2未知，试估计?,?2 例2 设总体X的密度函数为 试估计其参数? 例3 已知水文站最高水位X服从?(?，?),即 试估计其参数?，? 通常我们也称其为参数。 但上述有关参数的概念并不仅仅局限于 参数统计模型， 在非参数统计模型中亦存在， 一、参数及其估计 特征数也都是参数。一般地，有关参数和估 计量，我们有如下定义。 定义 参数（Parameter）, 估计量 （Estimate），简称估计。 二、频率替换原理 1. 频率替换法 考虑n次独立重复试验，每次试验有k种 可能的结果 的职业数据如下： 例4 考虑男性总体。设男性的职业类型分为 五类， 0.13 0.31 0.41 0.12 0.03 95 217 289 84 23 5 4 3 2 1 708个丹麦男性 根据频率替换 原理，最自然的方法就是用样本频率 例如在例4中已知第4和第5种职业相于蓝领， 第2和第3种职业相于白领，我们感兴趣的是 蓝领工人和白领工人比率的差，即 使用频率替换原理，有 在实际问题中，常见的情形是：每次试验 函数， 上有定义和连续，则由频率替换原理可得 需要注意的是在上述估计过程中可能得到 的估计是不唯一的，举例说明如下。 例5 考虑具有两个等位基因的单个基因的遗 传平衡问题。 如果三种不同的基因型是可辨 识的， 这就导致假设个体三种基因型发生的 频率为 即著名的Hardy-Weinberg模型。 由替换原理可得 的三个不同的估计 关于这三个估计优劣留以后讨论。 2. 矩估计法 矩估计法的主要思想是基于替换原理。 相应的样本的前r个原点矩为 由替换原理可得 的估计为 这种方法称为矩估计法，所得的估计量称为 矩估计量（Moment Estimate）。 理论依据 样本矩依概率收敛于总体矩。 矩方程 这矩方程确定了含k个未知参数的方程组，其中 al是总体的l阶原点矩。 例6 例7 矩估计量 上面方程(1)的解称为参数?的矩估计量, 记为 。 解 因为均匀分布的均值和方差为 令 求解可得 矩估计的优点 不依赖总体的分布，简便易行 只要n充分大，精确度也很高。 矩估计的缺点 矩估计的精度较差； 要求总体的某个k阶矩存在； 要求未知参数能写为总体的原点矩的函数形式 注意： 1. 总体不一定存在适当阶的矩。 例 考虑Cauchy分布，其密度函数为 其各阶矩均不存在。 2. 对相同的参数 ，存在多个矩估计。 例如，考虑总体是参数为 的Poisson分布， 三、极大似然法 例8 已知甲、乙两射手命中靶心的概率为0.9 极大似然法是另一种常用的估计法，先举 例说明其思想。 和0.4，观察一张靶纸知10枪6中，且这张 靶纸肯定是射手甲乙之一所射，问究竟 是谁所射？ 式。 比较这两个值， 这张靶纸是乙所射的， 从这个例子可以看出，极大似然法是基 于这样一个统计原理：在一次试验中，某一 事件已经发生，则使得该事件发生概率最大的 原因（参数）认为是真实原因。 分布为 简记 似然函数， (Likelihood Function) 极大似然估计, (Maximum Likelihood Estimate ) 简记为MLE。 注意： 当总体X为离散随机变量时， 为分布率（分布列）； 连续随机变量时， 函数。 而当总体X为 从以上分析可知， 求极大似然估计的具体过程可归如下： 1. 当参数空间仅函有限个元时，可以用穷 举法求 2. 时， 这个方程称为似然方程， (Likelihood Function) 求解似然方程可 极大似然估计的优点 利用了分布函数形式, 得到的估计量的精度一般较高。 极大似然估计的缺点 要求必须知道总体的分布函数形式 例9 设总体X 服从参数为λ的指数分布，即有概率密度 又x1,x2,…xn为来自于总体的样本值，试求 λ的极大似然估计 解 似然函数为 于是 方程 其根为 经验证， 在 处达到最大， 所以 是λ 的极大似然估计。 例10 设总体X 服从参数为λ的泊松分布，即X有分布列（分布律） λ＞０ λ是未知参数，试求其极大似然估计。 当总体的k阶矩不存在，或未知参数不能表为总体的原点矩的函数形式，或虽然理论上能表