第七章参数估计.pptVIP

第七章 参数估计 7.1.1矩估计法 例7.1.2 设总体 ∽ 为正整数 , 0p1 k,p都 7.1.2 极大似然估计法 上面讨论的矩估计法是用样本的各阶矩“代替”总体相应的矩,可不涉及总体的分布类型. 在实际中所遇到的总体分布类型是已知的,只是由于参数未知,写不出概率密度函数的确切表达式.已知总体所服从的分布类型,这是很有用的信息,而矩估计法并没有用这种信息.而极大似然估计法是在已知总体分布类型的条件下通过样本对未知参数作点估计的新方法. 它据的思想是:如果通过试验,某个结果A发生了,那么所作出的参数估计应有利于A的发生,即作的参数估计应使A发生的概率最大. 一般地,设 为来自分布形式为已知,(对离散型情形理解为分布律,对连续型情形理解为概率密度)的总体的样本观察值,如果当未知参数取时,(被取到的概率最大,则称为的极大似然估计. 7.2 估计量优良性的标准 7.2.1 无偏性 7.2.2 有效性 7.2.3 一致性 无偏性 由于未知参数 的估计量 是一个随机变量,每次抽取后得到 的估计值 与的真值 是有误差的.误差分为系统误差和随机误差两类,系统误差指的是该理论不是它所描述现象的正确理论;而随机误差是该理论要描述的现象的正确理论.但理论与经验之间的不尽一致是由于无法控制的随机因素的干扰引起的,由于这些随机因素的作用是微小的,它们并不影响系统的本质特征,所以该理论是可取的,而且随机误差可以认为服从正态分布,其均值为零。 7.2.2 有效性 7.2.3 一致性 设 是总体未知参数 的估计量,它是样本 的函数,因而也是样本容量n的函数.因此,可 记为 , 人们自然希望样本容量很大时,估计量 应接近被估计的参数 ,这就引出了估计量的一致性. 7.4 正态总体参数的区间估计 7.4.1.区间估计的概念 前面我们介绍了参数的点估计，假设总体X~N（μ，σ2），对于样本（X1，X2，…，Xn）， 是参数μ的矩法估计和极大似然估计，并且满足无偏性和一致性.但实际上 =μ的可能性有多大呢？由于是一连续型随机变量，P{X=μ}=0，即=μ的可能性为0，为此，我们希望给出μ的一个大致范围，使得μ有较高的概率在这个范围内，这就是区间估计问题. 上面(7.3.2)称C-R不等式，特别当g(θ)= θ时，记η= 则有 证明略 上面的C-R不等式，给出了无偏估计的方差的一个下界，这个下界称为Rao-cramer下界，对于C-R正则分布族，如果某个θ的无偏估计 的方差达到这个下界，那么它就是满足条件(7.7)的无偏估计类中方 差最小的，无疑这个估计量是比较理想的。进一步，如果θ的无偏 估计都满足(7.7)，那么达到C-R下界的无偏估计就是最有效的，也 就是最小方差无偏估计。 定义7.3.2若 的一个无偏估计 满足： (即达到C-R不等式的下界)则称 为θ的有效估计。 定义7.3.3若 是θ的一个无偏估计，存在I(θ)= 则称 为 的有效率 显然有0＜ ≤1 而有效估计是最有效的一个，其有效率达到1。在求C-R下界时，母体的Fisher信息量I(θ)是一个重要的量，I(θ)出现在C-R下界的 分母中，因此I(θ)越大，下界越小，此时， 有效估计也就越精确，我们可把这一点解释 为子样中包含未知参数的“信息”越多，这 也许可作为“信息量”这个名称的一种解释 例7.3.2设母体ξ～P(λ),λ＞0未知，求λ的C-R下界 解：∵f( ,λ)= x=0,1,2,…… ∴ = = ∴λ的C-R下界为 取 则 ∴ 是λ的有效估计 在求某个未知参数θ的C-R下界时，除像上面的几个例子 一样，用定义求I(θ)，求I(θ)还可用另外的方法。性质 若 证：略 定义7.3.4 若 为θ的无偏估计而非有效估计，其有效率e( )→1 为θ的渐近有效估计。 （n→+∞）则称 * 第一节 参数的点估计 第二节 估计量优良性的标准 第三节 Rao—Cramer不等式 第四节正态总体参数的区间估计 7.1参数的点估计 参数估计要解决两重任务: ① 寻找估计量的方估计值.在不强调估计量和估计值的区别时,将用“估计”法 ② 建立衡量估计量“好坏”的标准.讨论按此思路展开. 求估计量的常用方法有矩估计法和极大似然估计法. 计算方法上讲,总体X的期望 是对随机变量X的取值求概略意义上的加权平均.样本均值是对抽取的样本求算术