概率论的基础--chapter 7_1.PPTVIP

是对已知分布类型的总体，利用样本对其未知参数作出估计。 参数估计可作如下划分： 例1 区间 [ 0 , ? ]上均匀分布的矩估计 极 大 似 然 法 简 例 二、极大似然估计法 例 用极大似然法---通过抽样判断球的多少 例如，当抽样结果为(0,1,1)时， 从直观看，抽得的 3 球中有 2 黑，可估计 ? =0.75 从概率看， ?=0.75时 P0.75(X1=0,X2=1,X3=1)=.1406 ? =0.25时 P0.25(X1=0,X2=1,X3=1)=.0469 即样本(0,1,1)来自?=0.75的总体的可能性要大些。 一般取 这样得到的估计值就是? 的极大似然估计值。 定义： 若总体 X 的概率密度函数为f( x,? ) (?可能为向量)， X1 , X2 , ···, Xn为来自f( x,? )的一个样本，则对 n 维随机变量 ( X1 , X2 , ···, Xn ) 的联合概率密度函数记为 极大似然估计法 就是求参数? 的估计值，使似然函数（即联合概率密度函数或联合分布律）得到极大值。 求极大似然估计的一般步骤： 写出似然函数： 对似然函数取对数： 对?j (j=1,…,m)分别求偏导，并令其为0得似然方程(组)： 解似然函数方程组得 即为所求。 指数分布的估计 例 某电子管的使用寿命 X （单位：小时) (从开始使用到首次失效为止）服从指数分布， 今取一组样本，数据如下，问如何估计θ？ 指数分布的估计 （二）极大似然估计 指数分布的估计 例 矩估计与似然估计不等的例子 设总体密度函数为： 求参数θ的极大似然估计，并用矩法估计θ。 小 结 矩法估计量与极大似然估计量不一定完全相同 用矩法估计参数比较方便 但样本容量较大时，极大似然估计法精度高。 例 均匀分布的极大似然估计 设样本X1，X2，… ，Xn是来自在区间[ 0 , ? ]上均匀分布的总体， ? 未知，求? 的极大似然估计。 Mathematical Statistics 7.1 参数的点估计 * 参 数 估 计 第 七 章 杨宇明 youngym@126.com 参数估计 点 估 计 区间估计 矩 估 计 极大似然估计 参数估计 §7.1 参数的点估计 一、矩估计法 思想来源：依大数定律有 即样本的一阶原点矩依概率收敛于总体的一阶原点矩。 用 估计 E( X )是很有说服力的。 用样本矩作为相应总体矩的估计 矩估计法的基本思想： 设样本X1，X2，… ，Xn是来自在区间[ 0 , ? ]上均匀分布的个体， ? 未知，求? 的矩估计。 # 均 匀 分 布 的 矩 估 计 将?1的矩估计A1代入上式，得?的矩估计： 解： 令 得 解： # 二 项 分 布 的 矩 估 计 例：设总体 X 服从二项分布 B (k , p ) k 为正整数，0p1 样本为X1，X2，… ，Xn，求 k , p 的矩估计。 令 得 将?1的矩估计A1， ? 2的矩估计A2代入上式，得： 要注意相应的字母大小写区分 注意： 样本矩是随机变量，而总体矩是数值 对样本进行一次观测就可以得到参数 的一个估计值。 大家首先想到的是老兵，因为它更符合情理！ 例4 若袋中有黑白两种球 ( 除颜色外别无差异 ) , 且已知两种球数之比为 1:3 ，现任取一球，发现是白色，问哪种颜色的球多一些？ 显然，首先觉得白色的多一些。 # 基本想法：如果在一次试验中事件A 发生了，那么试验的条件应该最有利于事件A 的出现。即试验的条件应使A 发生的概率最大。 例3 如果一个老兵和一个新兵同时打靶，但仅有一人命中，问谁命中的可能性大？ (1) 老兵 (2)新兵 设总体X 的概率密度函数为 f ( x ,θ) θ是未知参数， X1，X2，… ，Xn是简单样本。将抽取的一个样本视为随机试验，则试验有多种可能，而在一次试验中，样本观测值(x1 , x2 … xn)居然出现 ,可见试验的条件即参数θ的取值应该使这组观测值出现的概率最大。 极大似然估计法基本思想： 按照最大可能性的准则进行推断。 首先，令X 表示从袋中任取一球所得的黑球数，则 现从袋中有放回地 (保证独立性) 任取 n 个球 (不妨设为 n=3 )，则X1, X2, X3 独立同分布，是来自总体X