第五篇复共线性问题.docVIP

第四章 复共线性问题 4.1引言 在第二章中，我们在高斯—马尔科夫假定下，讨论了经典线性单方程计量模型的参数估计，假设检验区间估计与预测等问题。并且，我们已证明了：在GM假定下，回归系数的LS估计再线性无偏估计类中具有最小的方差。由此，奠定了LS估计在经典计量理论中的重要地位。然而，在实际经济问题的研究中，GM假定往往并不满足。这种假设条件的破坏对经典计量理论的影响是具有挑战性的，将直接引发相关理论的革命。本章介绍的复共线性（multicollinearity）问题，在经济计量学的理论研究与实际应用中，具有极其重要的价值。在下面的讨论中将会发现，由于复共线性关系的存在，LS估计的性能将急剧变得很差，不再是可使用的最佳估计。 所谓“复共线性”是指在模型解释变量之间存在一个或多个近似的线性关系： 若上式左边精确地等于0，则称间存在精确的或完全的线性关系。当精确线性关系成立时，显然有：，从而，GM假定中的秩条件自然被破坏。若之间虽然不存在精确的线性关系，但存在复共线性关系，则之间必有一个变量可通过其它解释变量近似线性表示，说明此变量与其它结实变量之间的相关性极强，没有必要单独作为解释变量存在于模型中。若将这些变量均作为解释变量包含在模型中，则不仅不能有效地改进模型的拟合与预测，相反，将使模型参数的估计性能变坏，模型拟合与预测将在事实上不能反映客观事物本来面目。因此，如何识别和诊断出这种复共线性关系的影响机制，成为模型理论研究与应用实践急待解决的问题。 事实上，在近几年来的不断探索过程中，人们已发现：复共线性关系的产生机制和影响机理非常复杂。它不但与解释变量间的结构依存关系相关，同时，还与模型形式设定、变量分布、滞后影响、样本信息差异和异常值等有关。本章介绍相关的理论和改进方法。 4.2估计的新度量——均方无差 我们在上一章讨论的高斯——马尔科夫定理给出了：在GM假定下，回归系数的LS估计在线性无偏差估计类中具有最小的方差。此时，制定估计优良的前提是线性无偏的。下面引入“均方误差”则是在更一般意义上给出了度量估计优量的新标准。 均方无差（MSE） 对于参数估计的一般问题，设为维未知参数向量，为 的某种估计，则估计的均方差（Mean Square Error）定义为： 显然，均方误差度量了估计与未知参数偏离的大小。 对作进一步的分解有： 显然，它为估计的各分量方差之和。 ，它为估计的各分量偏差的平方和。 可见，要使方程差较小，则必须要求和均小。特别地，当为的无偏估计时，则分解式中第二项等于0，此时，只剩下分量方差之和。因此，均方误差不仅适用于无偏估计情形，同时还适用于有偏估计情形。它从方差和偏差两个方面综合反映了估计的性能，是一个较好的、全面的估计性能新度量。 LS估计的均方误差。 我们假定单方称线性回归模型为： 其中，设计阵假定已经中心化，并且。此时，截距项的LS估计为：，的LS估计为：。 注：设 则 （中心化） 其中， 可见，从参数的角度来看，中心化不过是把原参数作了一个线性变换，且在此变换中，保持不变。 现记， ， 则有：， 从而与的LS估计为： 即有： 可见，中心化提供了将回归系数与截距项分离加以分别估计的技术，使我们可以将精力更加集中于对回归系数估计与性能的研究。 其次，在中心化基础上我们再来讨论其标准化问题。 记 则中心化的模型变形为： 其中，， 从而与的LS估计分别为： 其中，为阵，而为的相关系数阵。 由于为的无偏估计，故有： 再由于故有： 现记为相关系数矩阵的特征根，由于可逆，故的特征根为： 从而上式变为： 可见，若至少存在一个接近于零的特征根时，则将趋于无穷大。此时，尽管高斯—马歇尔科夫定理仍可保证，在线性无偏估计类中最佳，但其方差本身值却非常大，不再是一个优良估计。1955年，Stein证明了当维数大于2时，正态均值向量LS估计为不可容许估计。在统计文献中，称此现象为Stein现象。在此基础上人们发展了丰富多彩的有偏估计理论。例如：著名的岭估计、主成分估计、岭型主成分估计、特征根估计、压缩估计、双类估计和双类估计等。它们在均方误差准则下均局部或一致地改进了参数的LS估计。 4.3复共线关系的诊断 在上节中我们利用特征根理论揭示了LS估计性能变坏的条件，当相关阵的特征根中至少有一近似于零时我们称设计阵是病态的，也称相应的回归模型为病态的。那么设计阵病态真正意味着什么？下面