试谈对数极大似然估计(doc8页)版.docx

第九章 对数极大似然估计 9.1 对数极大似然估计的基本原理 9.2 对数极大似然估计方法 用对数极大似然估计来估计一个模型，主要的工作是建立极大似然函数形式，利用 EViews 可以方便地估计出未知参数。 9.1.1 一元线性回归模型的极大似然函数 举个简单的例子，普通的线性回归模型： (9.2.1) 这里，是观测序列，而是模型的参数。有密度的对数）可以写成：  T 个观测值的样本的对数似然函数（观测值 (9.2.2) 注意到，我们能将对数似然函数写成每个观测值 t 的对数似然贡献的和的形式： (9.2.3) 这里每个观测值的贡献由下面的式子给出： yt 0 1 xt 1 2 ) (9.2.4) l t ( , u ) log log( u u 2 例 9.1 普通最小二乘方程的极大似然估计 我们选择凯恩斯消费函数 ①作为例子， 分析普通回归方程的极大似然估计方法。 消费函 数的因变量选为城镇消费（ cc），而城镇人民收入（ ci ）作为自变量，样本为从 1978 年到 2000 年的年度数据。 首先利用最小二乘法，估计了一个普通的回归方程，结果如下： ? 0.8833 ci t 93.31 cct （63.04） (0.58) R2 =0.995 对数似然值 = -177.02 AIC = 15.57SC = 15.67D.W.=1.48 利用前面的公式 (9.1.2)，我们可以写出这个方程的极大似然函数， 进行极大似然求解之 后，我们得到了城镇消费和城镇收入之间的回归方程，得到的结果是： ? 0.8833 ci t 93.34 cct （44.33）(0.18) 对数似然值 = -177.02 AIC = 15.57 SC = 15.67 观察两个方程的系数值发现最小二乘方法和极大似然函数估计的结果几乎没有什么区 别，但是由于初值选择的不同，所以产生了统计量的差异。 9.2.2 AR(1) 模型的极大似然函数 一阶自回归过程有如下形式，记作 AR(1) ： Yt c Yt 1 t (9.2.5) 其中 t 是一个白噪声过程，即 t ～ i . i . d . N (0, 2 ) 。在此情形下，总体参数向量为 (c, , 2 ) 。 首先考察样本中第一个观察值 yt 的概率分布。由于在 1时，存在一个满足（ 9.2.5） 的协方差平稳过程，此时， E(Y1 ) c (1 ) var(Y1 ) 2 (1 2 ) ， 所以，第一个观察值的密度函数形如 fY y1 ;θ fY y1 ;c, , 2 1 1 1 y1 c 1 2 (9.2.6) 2 (1 2 ) exp 2 1 2 2 2 ① （美）斯蒂格利茨，经济学， p89 页。 接下来考虑第二个观察值 Y2 在观察到 Y1 y1 的条件下的分布。由（ 9.2.5） Y2 c Y1 2 (9.2.7) 可以将随机变量 Y1 视做确定性常数 y1 。在此情形下， （ 9.2.7）给出 Y2 作为常数 cy1 和 随机变量 2 的和。因此 Y2 Y1 y1 ～ N c y1 , 2 ， 1 y2 c y1 2 fY2 Y1 y2 y1 ; θ exp 。 (9.2.8) 2 2 2 2 一般地， Y1 , Y2 , ,Yt 1 只通过 Yt 1 对 Yt 起作用， 第 t 个观察值以前 t -1 个观察值为条件 的分布为： f Y Y , Y t 2 , Y yt yt 1 , yt 1 , , y1 ; θ 2 t 1 f Y Y ( yt yt 1 ;θ) (9.2.9) t t 1 1 yt c yt 2 exp 1 2 2 2 2 完全样本的似然函数为 fYT 1 ,YT 1 , , Y1 ( yT , yT 1 , y1 ; θ) fY1 ( y1 ,θ) T f Y Y ( yt yt 1 ; θ) (9.2.10) t 2 t t 1 其对数似然函数（记作 log L (θ) ）可由（ 9.2.10）取对数求得： T log L(θ) log fY1 ( y1 ;θ) log fYt Yt 1 yt yt 1; θ (9.2.11) t 2 将（ 9.2.8）和（ 9.2.9）代入（ 9.2.10），得到样本量为 T 的 AR(1) 过程的对数似然函数： 1 log( 2 ) 1 log 2 (1 2 ) y1 c (1 ) 2 t 1 2 2 2 2 (1 2 ) log L (θ) 2 (9.1.12) T yt c yt 1 2 ) (T 1) 2 log( 2 ) (T 1) 2 log( t 1 t 2 2 2 例 9