第5讲 多元回归分析 OLS的渐近性.pptVIP

第五讲 多元回归分析：OLS的渐近性Multiple Regression Analysis: Asymptotic Properties of OLS 一、引言 二、一致性 三、渐近有效性 四、渐近正态性 引言 回忆：经典线性模型（CLM）的假定 引言 在上一讲的学习中，有以下结论： 如果总体回归模型满足MLR.1-4，OLS估计量是无偏的 如果总体回归模型满足MLR.1-5，OLS估计量是有效的，并且OLS估计量是最优线性无偏估计量 如果总体回归模型满足MLR.1-6， OLS估计量是最优无偏估计量，而且基于OLS估计构造的某些统计量服从t分布或F分布，从而可以进行假设检验 这些性质是针对固定样本容量而言的，然而，当样本容量无限增大时，OLS估计量会呈现出另外一些性质，这些性质称为渐近性质（asymptotic properties）或大样本性质（large sample properties） 引言 为什么讨论OLS的渐近性质？ 在现实中，经典线性模型的某些假定很难满足，此时无法保证OLS估计量的无偏性和有效性，也无法进行假设检验，从而OLS方法是失效的。在这种情况下，如果可以通过增加样本容量来使得OLS估计量满足某些合理的性质，那么仍然可以保证使用OLS方法是合适的。换言之，如果随着样本容量的增加，OLS估计量仍然不能令人满意，那就说明不应使用OLS估计方法 几类渐近性 一致性 渐近有效性 渐近正态性 什么是一致性？ 一致性（consistence） OLS的一致性 OLS的一致性 OLS的一致性 OLS的一致性：对简单回归模型的简单证明（课本p159） OLS的一致性 OLS的一致性：对简单回归模型的简单证明（课本p159 ） OLS的一致性 进一步的讨论（课本p160） 上述讨论表明：如果OLS估计量是无偏的，那么它一定是一致的；但是如果OLS估计量是一致的，却不能保证它是无偏的。 OLS的不一致性 如果误差项与任意一个自变量相关，即Cov (Xj , u)不等于0，那么OLS就是有偏的而且是不一致的。也就是说，即便样本容量再大，OLS估计的偏误也不会消失，而且OLS估计值会收敛到一个有偏误的值（情况更糟糕！）。 此时，OLS估计量的不一致性（inconsistency）为： OLS的不一致性 遗漏变量的影响（课本p161） 前面我们提到过，遗漏变量会使得OLS估计量是有偏的，事实上，这种情况还使得OLS估计量是非一致的 例题：课本p161，问题5.1 渐近有效性 我们知道，如果总体回归模型满足MLR.1-5，那么OLS估计量是最优线性无偏估计量。事实上，可以证明在这些假定下， OLS估计量是渐近有效的（asymptotic efficient）。也就是说，随着样本容量无限增大， OLS估计量具有最小的渐近方差（课本p170）。 渐近正态性 通过以上讨论，我们知道，如果总体回归模型满足MLR.1-5，那么OLS估计量不但是一致的，也是渐近有效的。但还无法进行假设检验（即推断） 在上一讲中，我们知道，如果满足MLR.6，即误差项（或因变量）在给定自变量的值时服从正态分布，那么可以在原假设成立的情况下通过OLS估计量构造一些统计量服从t分布或F分布，从而可以进行推断 但是，很多情况下正态性假定很难被满足，此时为了进行推断，必须要借助OLS的渐近正态性（asymptotic normality），即随着样本量的无限增大，OLS估计量渐近地服从正态分布 渐近正态性 OLS估计量的渐近正态性 大样本推断 大样本推断（large sample inference） OLS估计量的渐近正态性告诉我们，如果样本容量足够大，而且总体回归模型满足MLR.1-5，那么t统计量近似地服从标准正态分布或t分布，从而可以进行t检验。此时，不必要求满足正态性假定 如果样本容量足够大，而且总体回归模型满足MLR.1-5，那么通常的F检验也是适用的 需要注意的是，进行大样本推断的前提是MLR.5（同方差假定）必须成立 大样本推断 拉格朗日乘数（Lagrange Multiplier, LM）检验 对于大样本数据，可以使用LM检验对多个线性假设进行检验，前提是高斯－马尔科夫假定（ MLR.1-5 ）成立 例题5_1：课本p168，例5.3 小结 本讲定性地讨论了OLS估计量的渐近性质，不要求同学们掌握证明过程和细节问题。重要的是希望大家记住：即便正态性假定不被满足，在大样本情况下，用OLS方法进行参数估计和假设检验仍然是适用的。 如此看来，样本容量越大，对OLS方法施加的限制就越少，因此我们应该使用容量足够大的样本。遗憾地是，并没有一个被广泛接受的标准用来判断样本容量到底应该多大才符合渐近