第三章参数估计.pptVIP

参数估计 二、单正态总体均值差与方差比的置信区间 * * 有这样一类问题: 总体的分布已知，但其参数未知.需在试验后, 由数据得出总体中未知参数. 对于这类参数的估计问题，统计采用的方法叫“参数估计”. 未知参数的常见估计方式，统计中类似估计方式及相关问题.(途径及评价). 引言 4.1 点估计 总体未知参数的点估计思想: 点估计的经典方法是矩估计法与极大似然估计法. 1. 矩估计法（简称“矩法”） 同时定义样本矩 令 矩法思想: 用样本矩Ak 作为总体同阶矩μk 的近似, 得出未知参数的估计(k 由未知参数个数决定). 即 θ的矩估计可记为 解： 2. 极大似然估计法 理论依据（背景） 单参数情形. 未知的θ不论如何变化, 均应使L(θ)达最大值。 或 Δx1Δx2 …Δxn 极大似然估计法一般情形 为该总体的似然函数. 定义 极大似然估计法：作似然函数，求极值点. 若似然函数可导, 且能由导数等于零解出未知参数, 则可由下列方程（组） 解出似然估计 或 由似然方程解不出θj 的似然估计时，可通过放大缩小的方法直接推求。 解： 设x1, …, xn是来自总体X的样本，作 0 得 0 lnL(θ,μ)关于μ单增 , 但 所以 极大似然估计法数值求解方法： 说明： 事实上，除去少数总体和样本分布都比较简单的场合外，在绝大多数情况下，极大似然估计的似然方程的解往往没有解析表达式。例如总体为伽马分布，其中参数未知的时候，似然方程没有解析解。在这种情况下要用数值方法求解似然方程的数值解或者近似解。这里我们简单介绍一下广泛应用于似然方程数值解的方法：牛顿-拉夫森算法。 牛顿-拉夫森算法： 1）标准形式： 2）梯度和Hissian矩阵 梯度是一个函数变化率最大的方向，它是由一阶 偏导数形成的向量： 当 称为驻点 Hissian矩阵是所有的二阶偏导数形成的矩阵： 3）牛顿-拉夫森流程 4.2 估计量的评选标准 1. 无偏性 估计量的特性: 例 设总体为X，其均值μ, 方差σ2＞0都存在未知，问μ的估计量 , σ2的估计量 ， 分别是否为μ,σ2的无偏估计. 所以 E(Xi)=μ，V(Xi)=σ2，( i =1, …, n) E(Xi2)= V(Xi)＋[E(Xi)]2 E(Xi＋1－Xi )2 =σ2＋μ2－2μ2＋σ2＋μ2=2σ2 解： E(T )= =σ2 = E(Xi＋12)－2E(Xi Xi＋1)＋E(Xi 2) =σ2＋μ2 2. 有效性 例 但任意一个无偏估计的方差不可能无限制 地小，在样本容量一定时，它有一个下限值。 设总体X的概率函数为 ，样本容量 是未知参数 的一个无偏估计。如果记： 则 这个著名的关系式称为罗-克拉美不等式 若 的无偏估计 满足 则称 为 的最小方差无偏估计。 例 设总体X服从参数为 的泊松分布，试 证： 是 的最小方差无偏估计。 3. 相合性 无偏性与有效性都是基于样本容量n固定的前提下提出的，我们希望随着样本容量的增大，一个估计量的值趋向于待估参数的真值。 4.3 区间估计 总体未知参数的区间估计思想: 区间估计概念 一、区间估计的步骤： ① 找待估参数的最好(无偏)估计; ② 由最好估计构造含待估参数、不含未知参数、分布已知的统计量Z; ③ 定两个常数a,b, 使P{aZb}=1-α且(a, b)最短; ④ 由aZb 解出θ1θθ2 ,(θ1,θ2 )为所求. ⑤ 有数据时，数据代入得到具体的置信区间. 区间估计的理论依据（背景） 1. 单正态总体均值的置信区间 (1) 已知 即得 的置信区间为1- ?的置信区间为 (2) 未知 即得 的置信区间为1??的置信区间为 2. 单正态总体方差的置信区间 (1) 未知 即得 的置信度为1- ?的置信区间为