求点估计量及方法.ppt

可得未知参数的极大似然估计值 然后, 再求得极大似然估计量. L是 的可微函数,解对数似然方程组 若 例. 设总体 X 具有分布律 X 1 2 3 pk 其中θ(0θ1) 为未知参数。已知取得了样本值 x1=1，x2= 2，x3＝1，试求θ的矩估计值和极大似然估计值。 例 设总体 X ~N( ) , 未知 . 是来自 X 的样本值 , 试求 的极大似然估计量 . 似然函数为 解： X 的概率密度为 于是 令 注:对于正态总体μ,σ2 的矩估计与MLE是相同的.但对于其它很多分布,它们并不一样. ?, ? 2 的极大似然估计量分别为 2、用定义直接求 当用上述求导方法求参数的 MLE 有时行不通(如似然函数不可微)，这时要用极大似然原理(即定义)来求. 例 设 X1,X2,…Xn 是取自总体 X~U(0,θ) 的一个样本 求θ的极大似然估计和矩估计. 用求导方法无法最终确定 用定义直接来求 . 解: 当 x1, x2,…, xn 为样本值时，似然函数为 故θ的极大似然估计值为 另一方面, 由于EX =θ/2, 故矩估计为 两者不同! 要使L(θ)达到最大，θ应最小，但它小不过x(n) ， 例 设X ~ U (θ,θ+1), X1, X2,…, Xn 是 X 的一个样本值, 求θ 的极大似然估计. 注:这里θ的极大似然估计不只唯一,可任取 (x(n)-1,x(1))之间的任一个值. 直接从函数形式出发 极大似然估计的具体步骤： 密度函数区间含有参数 优点是充分利用总体分布的信息 . 缺点是很多情况下似然方程难以求解。 极大似然法的优缺点： 极大似然估计的性质----不变性. 例 设总体 X ~N( ) , 未知 . 是来自 X 的样本值, 则 的极大似然估计为: 于是由极大似然估计的不变性,可得 标准差 σ 的极大似然估计是 概率 的极大似然估计是 参数估计问题 假设检验问题 点 估 计 区间估计 统计 推断 的 基本 问题 注：统计学的模型仅仅是对现实的近似，没有任何模型是“正确”的，也无法证明任何模型是正确的。只能够说，在某些可能有争议的准则之下，某些模型比另外一些要更适合一些。 —— 吴喜之《统计学：从数据到结论》 求解步骤： 问题是什么 解决问题的基本思路 理论支持及推导 解决的具体步骤 实例分析 第三章 参数估计 第一节 求点估计量的方法 第二节 估计量的评选标准 第三节 区间估计 参数的类型： 参数是刻画总体某方面概率特性的数量.参数的类型有 1、分布中所含的未知参数 例如，X ~N (? ,? 2), 若 ? , ? 2 未知, 通过构造统计量, 给出它们的估计值或取值范围就是参数估计的内容. 区 间 估 计 点 估 计 2、分布中所含的未知参数θ的函数 g(θ) 例如：X ~N (? ,? 2), 其中? , ? 2 未知，假设 X 是血液检验的结果，感兴趣的是检验值不超过 a 的人数的比例，即要估计 即为 ? ,? 的函数。 3、分布的各种特征数 例如：EX，VarX 等。 参数估计问题是利用从总体抽样得到的样本, 通过估计量来估计上述各种参数。估计量就是估计总体参数的统计量. 第一节 求点估计量的方法 一、矩法 二、极大似然法 一、矩法估计 1、矩法估计（Moment Estimation) 理论基础：大数定律（频率趋向于概率） 相互独立， 设随机变量序列 它们服从相同的分布，且具有有限的数学期望： 则 则 独立同分布, 且有期望： 则由大数定律， 设 是来自总体 X 的容量为 n 的样本, 矩估计法 指导思想 用样本 k 阶矩作为总体 k 阶矩的估计量, 建立含有待估参数的方程, 从而解出待估参数。 设待估计的参数为 总体的 r（r≥k） 阶矩存在，记为 样本 X1, X2,…, Xn 的 r 阶矩为 令 —— 含未知参数 ?1,?2, ?,?k 的方程组 具体步骤 解方程组 , 得 k 个统计量： 未知参数 ?1, ?,?k 的矩估计量 代入一组样本观测值得 k 个数: 未知参