3.多元回归3：渐近性绪论.ppt

(I)渐近正态性与渐近方差 * 渐近标准误 当u 不是正态分布时，标准误有时指的是渐近标准误 标准误收敛，收敛速度为样本容量平方根的倒数 需要同方差假设 拉格朗日乘数统计量 在大样本情形下或渐近正态性假定，我们可以利用t统计量和F统计量进行统计推断 拉格朗日乘数检验，可用于检验对参数所施加的额外约束 由于LM统计量利用了辅助回归，有时被称为 nR2 统计量 * 假设标准模型为： y=b0+b1x1+b2x2+. . .bkxk+u H0: bk-q+1=0, ... , bk=0 首先回归受约束模型 * 在大样本情形下，LM检验与F检验的结果通常是非常类似的 LM统计量决定于三个因素： 辅助回归，是将受约束模型回归所得残差?2对所有自变量x1…xk-q, xk-q+1,…xk回归。 主回归(受约束模型回归)和辅助回归(?2对所有自变量x1…xk-q, xk-q+1,…xk回归)必须使用相同的样本观测值。 在大样本下， LM检验和F检验的结果比较相近。 对于单个约束的检验，F检验和t检验是等价的；但是LM检验和F检验，则并不等价。 * 渐近有效 有限样本下，在Gauss-Markov 假定下, OLS估计量是BLUE (best linear unbiased estimators). 已经知道: 在大样本下，在假定MLR.1-4下，OLS估计量具一致性。 在大样本下，在Gauss-Markov假定下，OLS估计量的渐近正态性和渐进方差。 OLS的渐近方差的相对大小： 在Gauss-Markov假定下，在某种类型的估计量中， OLS估计量是否具有最小的渐近方差？ 如果具有最小的渐近方差，则称OLS估计量是渐近有效(asymptotically efficient)的估计量。 * * 对于一个简单回归模型： y = b0 + b1x1 + u z1=g(x1) 在Gauss-Markov假定下：E(u|x1)=0, 有： (1) E(u)=0, Cov(u, x1)=0; ∑(yi - b0 - b1xi1)=0, ∑ x1(yi - b0 - b1xi1)=0 (2) E(u)=0, Cov[u, z1]= Cov[u, g(x1)]= 0 ∑(yi - b0 - b1xi1)=0, ∑ g(x1)(yi - b0 - b1xi1)=0 * 由 (1) 得OLS估计量： * 由 (2) 得估计量： 若Cov(z1,x1)!=0, Cov(z1,u)=0，则 存在且一致。 又称为工具变量估计量(an instrumental variables estimator)。 当z1=g(x1)=x1时，与OLS估计量相同。 * 渐近方差 * 比较渐近方差： 故，对于简单回归模型而言，OLS估计量是渐近有效的。 * 一般情形 对于多元回归模型， y = b0 + b1x1 + b2x2. . . +bkxk + u 取zj=gj(xj), j=0,1,…,k, 在Gauss-Markov假定下， 由E(u|xj,j=1,K)=0 有： Cov(u,xj)=0，且 Cov[u,gj(xj)]=0, j=1,…,K。 求解下面一阶条件： gj(xj), j=1,…，K，可以取不同的函数形式，得到一组一致估计量 。 特殊地：g0(xi0)=1, gj(xij)=xij, j=1,K，所得为OLS估计量 。 * 定理5.3 (OLS的渐近有效性) 在Gauss-Markov假定下， 表示求解方程组(5.19)所得估计量, 是表示OLS估计量。则，OLS估计量具有最小的渐近方差，即： * 多元回归分析： 大样本性质（渐近性） y = b0 + b1x1 + b2x2 + . . . bkxk + u * 在高斯-马尔科夫假定下，OLS估计量是BLUE。但并不是在任何情况下都能得到无偏估计量。 OLS估计量的有限样本、小样本或精确性质 对任何样本容量都成立 无偏性（假设1-假设4：参数线性、随机抽样、解释变量有变化、零条件均值；P48）；但无偏性并非总能实现 最优线性无偏估计量（+扰动项的方差假设）：CH3.5 OLS估计量的抽样分布（+扰动项的正态分布假设）CH4 如果扰动项是正态分布的，则OLS估计量也是正态分布的，因此可以根据t分布和F分布构造检验统计量 扰动项是不可观测的，因此对扰动项