第五讲OLS的渐进性.pptxVIP

第五章：OLS的渐进性 (OLS Asymptotics ) §5.1 一致性 §5.2 渐近正态和大样本推断 §5.3 OLS的渐进有效性 第一节 一致性(consistency) 一、一致性的含义 令Wn是基于样本y1,y2…yn的关于参数θ的估计量，如果对任意ε0，当n→∞时，Pr(|Wn?θ|ε)→0，Wn就是θ的一个一致估计量(consistent estimator)。当Wn具有一致性时，我们也称θ为Wn的概率极限(probability limit of Wn)，记作Plim(Wn)=θ。 1.定义 2.为什么要考虑一致性 我们已经讨论了有限样本(finite sample)，也就是小样本(small sample)中OLS估计量(OLS estimators )和检验统计量(test statistics)具有的如下性质： 在MLR. 1-4下 OLS估计量具有无偏性(Unbiasedness) 在MLR. 1-5下 OLS估计量是最优线性无偏无计量(BLUE) 在MLR. 1-6下 OLS估计量是最小方差无偏估计量(MVUE) T统计量的分布为t分布 样本容量为任意n时，这些性质都成立。 由于在很多情形下误差项可能呈现非正态分布，了解OLS 估计量和检验统计量的渐近性，即当样本容量任意大时(when the sample size grows without bound)的特性就是重要的问题。 虽然在高斯－马尔可夫假定下OLS 是最优线性无偏估计量，但在别的情形下不一定能找到无偏估计量。因此，在那些情形下，我们只要找到一致的估计量，即n ? ∞时, 这些估计量的分布退化为参数的真值即可。 当n增加时样本的分布(Sampling Distributions as n increases) b1 n1 n2 n3 β1的样本分布 例：n1:每次从班上抽取10人， 抽若干次后，平均身高的分布； n2:每次从班上抽取100人， 抽若干次后，平均身高的分布； n3:每次从班上抽取200人， 抽若干次后，平均身高的分布。 3.一致性和无偏性的关系(Consistency v.s. unbiasedness) 一个估计量是否有可能在有限样本（小样本）中是有偏的但在大样本条件下又具有一致性？ 假设Z的真值为0，一个随机变量X以(n-1)/n的概率取值为Z，而以1/n的概率取值为n。那么，X的期望为1，也就是： 记plim(x) 为n趋向无穷大时x的取值，则有： plim(x)=z=0 是否有可能一个估计量是无偏的但又不具备一致性？ 依然假设Z的真值为0，一个随机变量X以0.5的概率取0.5，而以0.5的概率取-0.5，那么X的期望为0，也就是说，X是Z的无偏估计量。 但是，X总是在X=0这条线上下摆动，当n趋向无穷大时，它的方差并不会趋于0。因此，X并不是Z的一致估计量，也就是说X不具备一致性。 无偏估计量未必是一致的，但是那些当样本容量增大时方差会收缩到零的无偏估计量是一致的。 二、OLS估计量的一致性 1.定理5.1 在假设MLR.1到MLR.4下，OLS截距估计量和斜率估计量都是一致的估计量。 2.证明一致性 在简单回归中，斜率的估计量为： n→∞时，分子趋近于0，但分母却不趋近于0，因此，当n→∞时， Plim( )= 3.一个更弱的假定 要获得估计量的无偏性(unbiasedness)，我们假定零条件期望(zero conditional mean)：E(u|x1, x2,…,xk) = 0 而要获得估计量的一致性(consistency)，我们可以使用更弱的假定：零期望和零相关性假定，即：E(u) = 0，Cov(xj,u) = 0, j = 1, 2, …, k。 如果连这个较弱的假定也不成立，OLS将是有偏(biased)而且不一致的(inconsistent)。 上述讨论表明：如果OLS估计量是无偏的，那么它一定是一致的；但是如果OLS估计量是一致的，却不能保证它是无偏的。 推导不一致性 定义渐近偏差(asymptotic bias)为： ， 并考虑下面的真实模型和待估计模型。 真实的模型为： 实际进行估计的模型为： 显然： 则： 因此，考虑渐近偏差的方向就像是考虑存在一个遗漏变量时偏差的方向。主要的区别