第七章 参数估计882.docVIP

第七章 参数估计882 计量 ，作为未知参数 ?? 的估计量。 当取得一组样本观察值 后，用相应的 作为未知参数 ?? 的估计值。 说明：1. 在统计推断中，当不致混淆时，通常对样本和样本观察值的表示法不加区分，均表成 2. 对于两组不同的样本观察值 ，可得到未知参数 ?? 的两个估计值，但?? 的估计量是同一个。 一、矩估计 矩估计法原理：用样本k阶原点矩(中心矩)作为总体k阶原点矩(中心矩)的估计量，用样本k+m阶混合矩作为总体k+m阶混合矩的估计量。 特别，用 作为E(X)的估计量，用 作为D(X)的估计量，用样本协方差(相关系数)作为cov(X，Y)和 的估计量。 定义7.1 设总体X中含有未知参数 若对每个i( i=1，2，k)，存在连续函数 ，使 则称 为 的矩估计量，其中 称 的矩估计量。 如何求 设总体X的密度函数为 由总体原点矩的定义，有 从理论上来说，由上面k个方程，可以解出 矩估计的优越性：当总体分布类型未知时仍可对总体各阶矩进行估计。 矩估计的缺陷：当总体分布类型已知时，未能充分利用总体分布提供的信息。 二、极大似然估计 引例：罐中有许多白球和黑球，已知两色球的比例为3：1，但不知哪种颜色的球多。今有放回连抽两球均取出黑球，问：罐中黑球多还是白球多？ 解：设抽出黑球的概率为p，抽得黑球数为X，则X～B(2，p)。 P(X=2)= 。 根据题意，知 p=3/4 或 p=1/4 。 若 p=1/4，则 P(X=2)=1/16； 若 p=3/4，则 P(X=2)=9/16。 这说明当黑球多时事件 (X=2) 发生的概率大得多， (或者说样本来自总体B(2，3/4)的可能性比来自总体B(2，1/4)的可能性大得多) 根据“概率越大的事件越可能发生”的实际推断原理，应选3/4作为p的估计值。 若p的可供选择的估计值有许多，仍应选择发生概率最大的 作为p的估计，这就是极大似然估计的思想。 极大似然估计的原理(教材p180-181) 设总体X的概率密度函数族为f(x； ??) (或概率分布函数族为P(X=x)=p(x ； ??) )，????3??。 设 为任一组样本观察值(一组抽象的数)，则样本的密度函数(或概率分布)为 (或 ). 注意，当X是离散型随机变量，因样本观察值是取定的，故L(??)， ????3?? 仅是??的函数，对连续型随机变量，仍将L(??)， ????3?? 仅看作??的函数。 若有 ，使 对几乎所有样 本观察值都成立，则称 为??的极大似然估 计量，称 为??的极大似然估计值。 说明：在求极大似然估计量时，先用一组抽象的样本观察值来求，因而得到的是待估参数??的极大似然估计值，再用样本代换样本观察值，才能得到待估参数??的极大似然估计量。若用一组具体的样本观察值代入，便可得到待估参数??的具体极大似然估计值。 通过 ，求出 。 求L(??)的极大值 ： 说明：1. 因为L(??)是样本观察值的函数(此时样本观察值不变)， 故求出的 一般也是样本观察值的函数。 2. 由于 只是lnL(??)取极值的必要条件，从理论上 来说，还应验证lnL( )?? lnL(??)， ????3?? 对所有样本观察值都成立。但这种验证通常是非常困难的，故多不进行验证。 3. 若不只一个参数需要估计，也采用同样的方法，只是这时似然函数是多元函数，要通过令偏导数等于零求出驻点。(