[工学]第三章 参数点估计.ppt

第三章 例2 例3 例4 1．无偏性 4、最小方差无偏估计 6、 有效估计 所以 解得参数θ和μ的矩估计量为 ⑵ 设x1, x2, …, xn是X1, X2, …, Xn的样本值，则 似然函数为 其中 当 时 令 第二个似然方程求不出θ的估计值，观察 ，表明L是μ的严格递增函数，又 ，故 所以当 时L 取到最大值 从而参数θ和μ的最大似然估计值分别为 则参数θ和μ的最大似然估计量分别为 极大似然估计不变性 由于估计量作为样本的函数是一个随机变量, 对于不同的样本值, 估计值也不同, 因此评价一个 估计量的优劣就不能仅由一个观测值来确定, 而要 根据估计量的统计性质来评价. 通常一个好的估计 量其观测值应在待估计参数的真值附近波动, 且波 动的幅度越小越好, 即要使估计量与待估计参数在 某种统计意义下非常“接近”. 常用的几条标准是： 1．无偏性 2．有效性 3．相合性 这里我们重点介绍前面两个标准 . 第2节 估计量的评选标准 而它的期望值等于未知参数的真值. 则称 为 的无偏估计 . 设 是未知参数 的估计量，若 . 真值 估计量是随机变量， 对于不同的样本值会得到不同的 估计值 . 我们希望估计值在未知参数真值附近摆动， 这个标准 . 这就导致无偏性 定义 无偏性的意义是：用 来估计 时无系统偏差。 则称 是 的渐近无偏估计量. 例如 设总体X的数学期望 μ存在， 是X的样本，求证 均为μ的无偏估计。 为σ2 的无偏估计量 不是σ2 的无偏估计量 用S2来估计σ2有系统偏差。 例：由大数定律知 一致性说明：对于大子样，由一次抽样得到的估计量 的值可作θ的近似值 3. 有效性: 都是 的无偏估计量；若 则称 较 有效. 设 定义: Problem： 无偏估计的方差是否可以任意小? 如果不能任意小,那么它的下界是什么? 1、 Fisher信息量的定义. 5、罗-克拉美（Cramer–Rao ）不等式 (1)?是实数轴上的一个开区间; 设总体X 的概率函数为f(x;? ),???,且满足条件: 正则条件 注： I(?)的另一表达式为 设总体X 的概率函数为f(x ;? ),???, 满足上面定义条件；x1,….,xn 是来自总体X的一个样本, T(x1,….,xn ) 是g(? )的一个无偏估计. 定理 (Cramer-Rao不等式): 的微分可在积分号下进行，即 则有 上述不等式的右端称为C-R下界, I(?) 为Fisher信息量. 特别地对θ的无偏估计有 注: (1) 定理对离散型总体也适用.只需改积分号为求和号。 (2) 在定理条件下, 若g(? ) 的无偏估计量T 的方差Var(T) 达到下界, 则T必为g(? ) 的最小方差无偏估计. 但是它不一定存在, 也就是说, C-R不等式有时给出的下界过小. 定义: 定义: * 二、估计量的评选标准 一 、点估计 参数估计 三、区间估计 四、正态总体均值与方差的 区间估计 参数估计是统计推断的基本问题之一， 问题中， 并不一定要求密度函数， 而只要知道参数那么 在许多实际 分布就决定了。 考察灯泡厂生产的灯泡质量， 由于种种随机 易知灯泡使用寿命是随机变量， 记为 且 问题： 如何估计 和 ？ 引例1 因素的影响， 知道了参数μ，σ2的值，那么寿命X的分布就完全 确定了. 参数估计要解决问题: 总体分布函数的形式为已知, 需要确定未知参数。 但其中参数 未知时， 这类问题称为参数估计问题。 只有当参数 确定后， 才能通过 概率密度函数计算概率。 对于未知参数， 如何应用样本 所提供的信息去对其一个或多个未知参数进行估计。 对未知参数估计的两种方法： 通过样本 1、 点估计 2、区间估计 §1 点估计 点估计问题： 第一节 点估计 故可用样本矩来估计总体矩。 这个估计方法是英国统计学家K.皮尔逊最早提出的 基本原理： 总体矩是反映总体分布的最简单的 数字特征， 当总体含有待估计参数时， 总体矩是 待估计参数的函数。 样本取自总体， 即样本矩在一定程度上可以逼近总体矩， 一、矩估计法 其中 是待估参数 为来自 的样本, 存在, 设总体的k阶矩 则样本的k阶矩 (大数定律) 令 从中解得 k个方程组 即为矩估计量。 矩估计量的观察值称为矩估计值。 设总体X的分布函数为 矩估计的步骤： 连续型 离散型 例 1 设某炸药厂一天中发生着火现象的次数X服从 设总体 在 上服从均匀分布， 解： 解得 是在总体类型已知条件下使用的一种参数估计方法 . 2. 极大似然法 极大似然法的基本思想 先看一个简单例子： 一只野兔从前方窜过 .