极大似然估和广义矩估计.pptVIP

一、三种检验的基本原理 这三个检验统计量基于三个不同的原理，我们用下图来解释之。 绰主郎速减迁砰果您酪驻仁慕敦庚攻苍贩巡豁撮撇宿请辜乘褂括鸵揩邯坷极大似然估计和广义矩估计极大似然估计和广义矩估计 图中，对数似然函数（ ）由上面的那条曲线表示，它是要估计的参数 的函数。 是使 达到极大的 值。假设要检验的约束条件是， 这一条件在 这个值得到满足，从图上看，这个点是函数 与横轴 的交点。 下面对这三个检验所依据的原理作出解释。 室剥渠悼守来蒙悟堂绝娱幸氮木喜毗康漠韶阜堕宪吹冉斡况退刘滔彝庙磐极大似然估计和广义矩估计极大似然估计和广义矩估计 1. LR检验 如果约束条件为真，则在施加约束条件的情况下， 的极大值 不应当显著小于 的无约束极大值 。因此，LR检验要检验的是（ - ）是否显著异于0。 2. W检验 如果约束条件 为真，则 不应当显著异于0，其中 是 的无约束极大似然估计值。因此，W检验要检验的是 是否显著异于0。 踩泄在弓但维植丽某乒雄郭馅廉替温箍氢览慨几诬司找雏旨汉噬扼镁珐狼极大似然估计和广义矩估计极大似然估计和广义矩估计 3. LM检验 对数似然函数 在A点达到极大，在这点 关于 的斜率为0。如果约束条件为真，则 在B点的斜率不应当显著异于0。LM检验要检验的是用约束估计值 计算的 的斜率是否显著异于0。 酒虞茹陌腥衷亿固琐辩嗡袋石囊咬值崖航粱阅蚂蔑极普散群边肾击咨伏兼极大似然估计和广义矩估计极大似然估计和广义矩估计 二、似然比（LR）检验 设 为待估计参数向量，原假设 规定施加于这些参数上的约束，为 的无约束极大似然估计量，为约束极大似然估计量。如果 和 分别是用这两个估计值计算的似然函数值，则似然比 （Likelihood Ratio）为： 洛绦靳鼻总畸只试躯羽玲钒搪把煌废逆控咖羔状幻苦铡菏叶蔡昏耪晓找囱极大似然估计和广义矩估计极大似然估计和广义矩估计 此函数的值位于0和1之间，因为两个似然都是正的，并且 不会大于 （约束最优不可能超过无约束最优）。如果 过于小，则有理由怀疑约束条件的正确性。 LR检验的检验统计量是 ，该统计量在大样本情况下服从自由度为约束条件个数的 分布。 渺露应堆未叶款膝馈桂曲坤鳞憋坏翁搓幼搞创宦买圈惧襄器缓砸咳匣翱赣极大似然估计和广义矩估计极大似然估计和广义矩估计 三、沃尔德（W）检验 在实践中似然比检验的短处是需要估计约束和无约束参数向量，也就是说，既要进行约束回归，又要进行无约束回归。在复杂模型中，其中的一个估计值可能很难计算。幸运的是，有两个可供选择的方法，即沃尔德检验和拉格朗日乘数检验，可以解决这个问题。这两个检验只需要估计约束和无约束参数向量中的一个。 燎帝沾雁鹰品谜聊壕仓绅凤伊胳燥伏跌莱甄现域岸提鳖着便恨迂讣呜埃惜极大似然估计和广义矩估计极大似然估计和广义矩估计 设 是在无约束情况下得到的参数估计值向量，要检验的原假设为： 若约束条件成立，则至少 应该近似地满足它们。如果原假设是错的，则 应该比单由抽样变差所解释的情况要更远离0。W检验就是遵循这个思路构建的。 W统计量是 成立和大样本的情况下，W服从自由度为约束条件个数的 分布。 易吃捣列盼赎漾幢寄醒形涛鳖周妆乞产经窍隋盅堕撰魏纷卉富耗役慕喉牧极大似然估计和广义矩估计极大似然估计和广义矩估计 要注意的是，W统计量仅需要无约束模型的计算，但仍需要计算协方差矩阵，其估计值由下式给出： 其中 和 分别表示估计和渐近。是一个 矩阵，J是约束条件的个数，K是待估计参数的个数，它的第j行是第j个约束关于 的第k个元素的导数。 侦腆驱庆拴萍鉴明测虑峪孰塔蝴茁炉钻也吏顺滋宅厅铲蒂怪精漫钓坟誊呀极大似然估计和广义矩估计极大似然估计和广义矩估计 四、拉格朗日乘数（LM）检验 第三个检验是拉格朗日乘数（LM）检验，亦称score检验。该检验基于约束模型，无需估计无约束模型。 假设我们要在施加一组约束条件