第7讲 概率统计.docVIP

第七讲 参数估计 知识要点 一、点估计 1. 点估计的概念 设总体的分布形式已知，但含有未知参数，或者总体的某些数字特征(例如数学期望或方差)存在但未知，从总体中抽取样本，相应的样本值为. 点估计问题，就是要构造一个统计量，用它来估计未知参数，即用的观测值作为未知参数的近似值. 称为未知参数的估计量，为的估计值. 在不至于混淆的情况下将的估计量和估计值统称为的估计. 点估计的两种常用方法是矩估计法和最大似然估计法. 2. 矩估计法 矩估计法是用样本矩估计相应的总体矩，从而得到参数估计的一种方法. 矩估计法不需要知道总体分布. 矩估计法的一般步骤为： (1) 计算总体的一阶直到阶原点矩，即是待估参数. (2) 用样本矩估计总体矩： (3) 求解上述方程，得到的矩估计为一般只要求一阶矩和二阶矩的情形. 3. 最大似然估计法 最大似然估计法要求事先知道总体的分布. (1) 设总体是离散型随机变量，概率分布为其中是待估参数，的取值范围是. 设是来自总体的样本，是样本值，称函数 为样本的似然函数. 如果存在，使得这样的与有关，记作，称为未知参数的最大似然估计值，相应的统计量称为的最大似然估计量. 一般统称为的最大似然估计. (2) 设总体是连续型随机变量，概率密度为，是待估参数，则似然函数为 (3) 如果或关于可微，则往往可以从方程 或 中得到. (4) 如果总体的分布中含有个未知参数，则似然函数是这些参数的函数：，分别令 或 解上面的方程组，可得各个待估参数的最大似然估计值，从而得到最大似然估计量 (5) 最大似然估计量的性质：设是未知参数的最大似然估计量，对于的函数，若具有单值反函数，则是参数的最大似然估计量. 例如，正态总体中，方差的最大似然估计为，则总体标准差的最大似然估计为. 4. 估计量的评选标准 (1) 无偏性 若估计量的数学期望存在，且对任意，都有，则称是的无偏估计量. (2) 有效性 设与都是的无偏估计量，若对于任意，都有，且至少对于某一个，上式中的不等式成立，则称比更有效. (3) 相合性（一致性） 设为参数的估计量，若对于任意，当时，依概率收敛于，则称为的相合估计量. 即对任意，满足：对任意都有则称是的相合估计量. 二、区间估计 1. 置信区间 设是总体的未知参数，是来自总体的样本，对于给定的如果两个统计量 和， 对于任意，满足 则称随机区间为未知参数的置信水平是的置信区间，和分别称为置信区间的置信下限和置信上限，称为置信水平（或置信度）. 置信水平（置信度）是随机区间“包含”或“覆盖”未知参数的值的概率，置信水平一般选取非常接近于1的数，如0.99，0.95等. 直观上，如果多次使用置信度为0.95的置信区间，则平均有的区间包含的值. 2. 单个正态总体均值和方差的置信区间 设是来自正态总体的样本，，样本均值为，样本方差为. (1) 当已知时，的置信度为的置信区间为. (2) 当未知时，的置信度为的置信区间为 (3) 当已知时，的置信度为的置信区间为 (4) 当未知时，的置信度为的置信区间为 3.两个正态总体均值差和方差比的置信区间 设，，从总体中抽取样本，样本均值为，样本方差为，从总体中抽取样本，样本均值为，样本方差为，两样本相互独立. (1) 当和已知时，的置信度是的置信区间为 (2) 当未知时，的置信度是的置信区间为 其中 (3) 当和已知时，的置信度是的置信区间为 (4) 当和都未知时，的置信度是的置信区间为 典型例题 一、参数的点估计 例1 设总体的概率密度为 而是来自总体的简单随机样本，则未知参数的矩估计量为 . 解 由 ， 得 . 的矩估计量为. 例2 设总体的概率密度为 ， 其中参数未知，，,…，是来自总体的简单随机样本. (1)求参数的矩估计量；（2）求参数的最大似然估计量. 解（1）由，得 为参数的矩估计量. （2）构造似然函数 取对数 ， 令 ，即，得 ， 故 其最大似然估计量为. 例3 设总体服从参数为的几何分布：，其中为未知参数，是来自总体的简单随机样本，试求的矩估计和极大似然估计. 解 服从参数为的几何分布. ， 令，则 .令,得的矩估计为. （2）的极大似然估计：似然函数为 ， 取对数，得 ， 再对求导数，并令导数等于零，得 ， 解得 .可见的矩估计量和极大似然估计量是相同的. 例4 已知总体是离散型随机变量，可能取值为0，1，2. 且， ，其中是未知参数. （1）试求的概率分布；（2）对抽取容量为10的样本，其中5个取1，3个取2， 2个取0，求的矩估计值和极大似然估计值. 解 设的概率分布为， ，， 又 ， 解得 ，而，所以，所以的概率分布为：