第6篇-最大似然估计.pdf

© 陈强, 《高级计量经济学及Stata 应用》课件，第二版，2014 年，高等教育出版社。 第6 章 最大似然估计 如果回归模型存在非线性，常使用最大似然估计法(MLE) 。 6.1 最大似然估计法的定义 假设随机向量y 的概率密度函数为f (y ;) ，其中为 K 维 未知参数向量， 。 为参数空间，即参数所有可能取值所构成的集合。 通过抽取随机样本 y , , y 来估计。  1 n  假设y , , y 为 iid ，则样本数据的联合密度函数为 1 n f (y ; )f (y ; ) f (y ; ) 。 1 2 n 在抽样前，y , , y 为随机向量。 1 n 抽样后，y , , y 有了特定的样本值，可将样本联合密度 1 n 函数视为在y , , y 给定情况下，未知参数的函数。 1 n 2 定义似然函数(likelihood function)为 n L (; y , , y ) f (y ; ) 1 n i i 1 似然函数与联合密度函数完全相等，只是与 y , , y 的  1 n  角色互换，即把作为自变量，而视 y , , y 为给定。  1 n  为了运算方便，常把似然函数取对数： n ln L (; y , , y )  ln f (y ; ) 1 n i 1 i 3 “最大似然估计法”(Maximum Likelihood Estimation，简 记MLE 或ML) 的思想：给定样本取值后，该样本最有可能 来自参数为何值的总体。 ˆ 寻找 ，使得观测到样本数据的可能性最大，即最大化对 ML 数似然函数(loglikelihood function)： max ln L(; y )  ˆ 最大似然估计量 可写为， ML ˆ