概率论C7_1.ppt

* * 例 均匀分布的极大似然估计 设样本X1，X2，… ，Xn是来自在区间[ 0 , ? ]上均匀分布的总体，? 未知，求? 的极大似然估计。 解: 注意： 该似然函数在?＝0 处不可微。不能用一般方法----通过求导构造似然方程。 尝试用其他方法 求解！ 参 数 估 计 # 参 数 估 计 例2 设总体 X 服从二项分布 B (k , p ) k 为正整数，0p1 样本为X1，X2，… ，Xn，求 k , p 的矩估计。 解： # 二 项 分 布 的 矩 估 计 * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * 参数的点估计 * * 第 七 章 参 数 估 计 参数估计是对已知分布类型的总体，利用样本对其未知参数作出估计. 参数估计 点 估 计 区间估计 矩 估 计 极大似然估计 设θ是总体 X 的概率分布中的未知参数, X1, X2, ···, Xn 是 X 的样本。 参数的点估计就是按照一定的规则, 构造样本的一个函数(统计量), 记为 以它作为未知参数θ的估计。 §7.1 参数的点估计 一、矩估计法 思想来源：依大数定律有 即样本的一阶原点矩依概率收敛于总体的一阶原点矩. 用样本矩估计相应的总体矩 矩估计法的基本思想: 均匀分布的矩估计 二项分布的矩估计 样本矩是随机变量,而总体矩是数值. 注意大小写的区分! 二、极大似然估计法（M.L.E.) 极大似然估计法基本思想：按照最大可能性准则进行推断. 甲 乙 丙 问: 取出的是哪一只盒子? 选择使“出现 ”概率最大的那一个! 运用上述 “最大可能” 思想: 设θ是总体 X 的概率分布中的未知参数, X1, X2, ···, Xn 是 X 的样本, x1, x2, ···, xn 是样本观测值。此时, 相当于发生了事件 {X1= x1, X2= x2, ··· , Xn= xn} 将这个事件记为 A, 考察它的概率 P(A)。显然 P(A) 之值与总体的概率分布有关, 因而与参数θ之值有关。 参数的 取值范围 其中的某个 值θ决定 概率分布 X 的概 率分布 发生了 事件 A 对 X 进行 抽样, 得到 样本观测值 问: θ究竟取的是哪一个值? 选择使事件 A 发生可能性最大的那一个! ◆ A = {X1= x1, X2= x2, ··· , Xn= xn}的概率 1) 当总体分布为离散型 设总体 X 的分布律为: P{ X = x } = p(x;θ) , x 为 X 的可能取值; 则 P(A) = P{X1= x1} P{X2= x2} ··· P{Xn= xn} = p(x1;θ) p(x2;θ) ··· p(xn;θ) 2) 当总体分布为连续型 设总体 X 的概率密度函数为 f (x;θ); 此时不能直接计算 P(A) ,考虑 ( X1, X2, ···, Xn ) 取值于( x1, x2, ···, xn ) 附近极小领域内的概率: P{ x1? dx1＜X1≤x1, ··· , xn? dxn＜Xn≤xn } = P{x1? dx1＜X1≤x1}···P{xn? dxn＜Xn≤xn} ≈[ f (x1;θ)dx1]···[ f (xn;θ)dxn] 受参数值 变化的影响 与参数 θ无关 只需考虑 将 和 称为参数θ的 似然函数,记为 . 将 和 称为参数θ的 似然函数,记为 . 极大似然估计法求参数? 的估计值，使似然函数达到极大值 极大似然估计法求参数? 的估计值，使似然函数达到极大值 定义：若 称 为? 的极大似然估计值. 称为参数? 的极大似然估计量. 相应的估计量 极大似然估计的一般步骤 写出似然函数 2. 对似然函数取对数 注：lnx 是 x 的严格单增函数，lnL 与L有相同的极大值点，一般只需求lnL 的极大值点. 3. 对?j (j =1,…, m)分别求偏导,建立似然方程(组) 解得