计量经济学第三版课件于俊年 ISBN9787566310101 PPT4第四章 4.9三版.pptVIP

* §4.9极大似然估计法 极大似然估计包括有限信息极大似然估计法(简 称LIML法)和完全信息极大似然估计法(简称FIML 法)本节阐述的是有限信息极大似然估计法。 一、似然函数 设总体Y的概率密度形式f ( y ;θ ) 为已知,它含有 已知参数θ（若Y是离散型,则f ( y ;θ )表示概率 P{Y = y}）。于是，总体Y的样本Y1, Y2, ┅ , Yn的 联合密度函数为 这里，联合密度函数 中的参数θ是已知 的，联合密度函数是yi 的函数。(若Y是离散型, 则 它表示P{ Y1= y1 , Y2= y2 , ┅ , Yn= yn }= ) 对于样本的一个实现，即yi (i =1,2, …,n)已知，参数 θ为未知，并记作 L = L（θ / y1 ，y2 ，…yn ) = (4.9.1) 称为似然函数。 二、极大似然估计法的基本思想 设总体Y含有未知参数θ,并且总体分布的形式已 知，y1 ，y2 ，…yn为Y的一组样本观测值。若存在 θ的一个估计值 ，使得似然函数 L = L(θ/ y1,y2,…,yn) = max (4.9.2) 在θ = 时，取得极大值，则 是θ的一个极大 似然估计值。 由定义可知，求总体参数θ的极大似然估计值 的问题，就变成相对于给定样本观测值y1 ，y2 ，…yn求似然函数L的最大值问题。欲使L取得最 大值，θ必须满足 (4.9.3) 由于lnL和L是在θ的同一个值下达到极大值，所以 在实际应用中，通常不是求似然函数本身的最大值， 而是求其自然对数的最大值。 (4.9.4) 极大似然估计法也适用于分布中含有多个未知参数 θ1，θ2，…θk的情况。这时，似然函数是这些未 知参数的函数。此时，θ应满足： ………… (4.9.5) 三、一元线性回归模型的极大似然估计 设一元线性回归模型 (4.9.6) 其中 满足基本假定。由于yi服从以 为均值，以 为方差 的正态分布，所以，它的密度函数为 f (yi)= = (4.9.7) 相应的似然函数为 (4.9.8) 欲使L取得极大值, 较简捷的方法是使lnL取得极大值: (4.9.9) 显然 的最大似然估计值 应满足必要条件： (4.9.10) (4.9.11) (4.9.12) 由(4.9.10)和(4.9.11)可求出的极大似然估计值 由(4.9.12) 可求得 的极大似然估计值 (4.9.13) (4.9.14) (4.9.15) 可见，极大似然估计值 与最小二乘法估计量 一样，都是线性无偏估计量。而 是 的有偏估计量,但却是一致估计量。 四、多元线性回归模型的极大似然估计 设线性回归模型 (4.9.16) 式中Y是样本观测值(nⅹ1)向量，X 是解释变量 观测值(nⅹk) 矩阵，β是未知系数(kⅹ1) 向量， U是(nⅹ1)随机向量，且 。 显然，Y~ ,其样本观测值的联合 密度函数可以表示为： (4.9.17) 相应的似然函数 再写出似然函数(4.9.18)的对数形式: (4.9.18) (4.9.19) *