应用数理统计参数估计点估计.ppt

1 回 顾 ? 数理统计 ：由部分信息（带有随机性的数据） 推断出合理的结果 —— 统计推断 。 ? 样本与总体 ? 总体的分布 —— 统计模型 ，统计建模的目的即 确定 X 的分布、参数等 ? 参数与参数空间 ? 直方图 与 经验分布函数 ? 统计量 及其分布 ? 三种重要的 抽样分布 2 参数估计与非参数估计 参数估计： 先假定研究的问题具有某种数学模型， 如正态分布，二项分布，再用已知类别的学 习样本估计里面的参数。如 : 非参数估计： 不假定数学模型，直接用已知类别 的学习样本的先验知识直接估计数学模型。 ． 未知， 的指数分布，其中参数 是服从参数为 设总体 0 ? ? ? ? X 而估计总体的分布． 的取值，从 ，来估计 我们的任务是根据样本 ? 3 第二章 参数估计 ? 总体 X 的分布形式已知，但含有未知参数。 ? 由样本来推断（估计）其中的未知参数 —— 参数 估计。 ? 点估计： ，这是一个统计量，此 处称为估计量，而 称为估计值。 ? 区间估计：由两个统计量 和 构成一个区间，使 ，其中 事先给定。 ) ,..., , ( 2 1 n X X X ? ? ? ) ,..., , ( 2 1 n x x x ? ? ? ) ,..., , ( ? ? 2 1 1 1 n X X X ? ? ? ) ,..., , ( ? ? 2 1 2 2 n X X X ? ? ? ? ? ? ? ? ? ? ? 1 } ? ? { 2 1 P ? 4 设总体 X 的分布函数的形式为已知 , ? 为总体的待估计的参 数 . X 1 , X 2 ,.., X n 是 X 的一个样本 , x 1 , x 2 , …, x n 是相应的样本值 . 点估计问题 就是 用样本 X 1 , X 2 , …, X n 构造一个适当的统 计量 ( X 1 , X 2 , …, X n ), 用它的观察值 ( x 1 , x 2 , …, x n ) 作为 未知参数 ? 的近似值 . ? ? 称 ? ? ( X 1 , X 2 , …, X n ) 为 ? 的 估计量 . ? ? ( x 1 , x 2 , …, x n ) ? ? 称 为的 ? 估计值 . 在不致混淆的情况下 , 估计量和估计值统称估为估计 , ? ? 并都简记为 . ? 点估计常用方法 : 矩估计法 ; 极大似然估计法 . 参数 ? 的估计量 是样本 X 1 , X 2 ,.., X n 的函数 . ? ? 2.1 点估计 5 ? 依据（原理） ： 柯尔莫哥洛夫强大数定理： 如果 为相互独立且与 X 同分布，则 n X X X X E ,..., , , ) ( 2 1 ? ? ? ? ? n i i s a X n 1 .) . ( , 1 ? 通过总体的一个样本来估计总体未知参数的值 的问题称为 参数的点估计问题。 ． 2.1.1 ． 矩法估计 样本矩 是描述随机变量的最简单的数字特征，它在 一定程度上反映总体的特征．这种用样本 ( 原点 ) 矩作为 总体 ( 原点 ) 矩的估计量的方法称为 矩估计法 ． 6 注：随机序列的收敛定义 ? 是 指 ， （ 以概率 1 收敛，或几乎处处收敛 a.s ）； ? 是指依概率 P 收敛； ? 还有依分布 F 收敛 （弱收敛） ? 以概率 1 收敛一定依概率收敛，但反之不一定成 立。 . . , a e n X X ?? ? 1 } lim { ? ? ? ? X X P n n , P n X X ?? ? 1 } | {| lim , 0 ? ? ? ? ? ? ? ? ? X X P n n , W n X X ?? ? 7 ? 若 （ X 的 k 阶矩存在），也有 亦即，当 n 较大时，样本原点矩与总体矩非常接 近。据此可得： ? 矩估计法 ： 若总体 X 中含有 m 个参数 X 的真实 k 阶矩 存在，且为 ， 显然， 为 θ 的函数。 k k a X E ? ) ( . . 1 1 n a e k i k i X a n ? ? ? m ? ? ? ,..., , 2 1 ) ( m k ? k a m k a a m k k ,..., , ), ,..., , ( 2 1 2 1 ? ? ? ? ? 8 设总体 X 的分布函数为 F ( x ; ? 1 , ? 2 , ..., ? m ), 其中 ? 1 , ? 2 ,... ? m 为待估参数 , 如果 a k =E ( X k ) ( k=1,2,..,m ) 存在 , a k 为 ? 1 , ? 2 , …, ? k 的函数 , 记 a k = a k ( ? 1 , ? 2 , …, ? k )