计量经济学(第六讲共线性与主成分分析法的应用).ppt

第五讲共线性与主成分分析的应用本讲的主要内容:一、共线性问题的由来二、共线性产生的原因与后果三、共线性的诊断与处理四、主成分分析的应用第五讲共线性与主成分分析的应用一、共线性问题的由来在多元线性回归计量模型中，解释变量之间存在的线性或近似线性的关系，通常称之为共线性。共线性理论最早是由弗瑞斯在1934年提出来的，起初是指多元线性回归模型中全部或部分解释变量之间存在的严格的线性关系。可是在实践中，多数情况是不严格的线性关系，因此后来人们逐渐也把这后一种情况包括在多重共线问题的研究之中。第五讲共线性与主成分分析的应用一、共线性问题的由来对于多元线性回归模型：其中涉及的解释变量共有k个，若有：则称之间存在严格的共线性关系。如果l个解释变量存在下列关系：则称之间存在近似的共线性关系。第五讲共线性与主成分分析的应用一、共线性问题的由来关于共线性问题，需要注意以下几点：1、共线性主要是对解释之间是否存在某种程度的线性函数关系而言的，它不包括解释之间的非线性关系。2、构造计量分析模型时，一般总是假定解释变量是确定型变量，并且还假定各个变量相互之间在理论逻辑上不发生某种联系，故此共线性问题实质上是因样本而引起的。3、现象之间客观上总会发生这样或那样的联系，如要坚持保证模型中各个解释变量保持相互独立.共线性不是有或无的问题，关键是看它们的严重程度。第五讲共线性与主成分分析的应用二、共线性产生的原因与后果（一）共线性产生的原因1、在针对所研究的问题确定解释变量的时候，由于受到某些条件的限制，可供选择的范围比较小，只好把具有相关关系或相近解释功能的变量，一同纳入到模型中去，从而造成解释变量之间出现共线性关系。2、样本观察的数目少于模型中自变量的个数。3、把某个自变量的表征变量或可以作为该自变量的替代变量，也纳入到模型的自变量集合中。4、自变量的观察值之间存在滞后现象。5、自变量之间可能客观存在一定程度的相互作用关系。除了上述原因之外，像样本数据资料的采集方式、模型构造和设定等方面的问题，也会引起比较严重的共线性。第五讲共线性与主成分分析的应用二、共线性产生的原因与后果（二）共线性产生的后果1、回归参数的估计量不能确定，或者虽然能够确定，但对样本变化的敏感性极强。考虑二元线性回归模型：假定存在严格的共线性，即有：。以第一个回归系数的OLS估计为例，得到：第五讲共线性与主成分分析的应用二、共线性产生的原因与后果（二）共线性产生的后果将作代入处理：同样，我们可以验证在存在近似共线性的时候，模型回归参数的估计不稳定。第五讲共线性与主成分分析的应用二、共线性产生的原因与后果（二）共线性产生的后果2、参数估计量的方差很大，甚至趋于无穷大。将代入上式，则有：第五讲共线性与主成分分析的应用二、共线性产生的原因与后果（二）共线性产生的后果3、导致参数显著性检验失效。由于在高度共线性关系的情况下，参数估计量的方差很大，因而t统计量值必定较小，以至于时常接受了原假设。4、预测会失去意义。（至于这一点，请读者自己论证。）第五讲共线性与主成分分析的应用三、共线性的诊断与处理（一）共线性的诊断1、显著性比较法根据定性分析，如果能够肯定某个自变量对因变量的影响很大，但具体得到的样本回归系数不那么显著，则说明样本资料中可能存在着共线性问题。如果拟合优度系数R2的值很大，但模型中却有部分参数未通过显著性检验，这也意味着有共线性存在。第五讲共线性与主成分分析的应用三、共线性的诊断与处理（一）共线性的诊断2、0阶相关系数矩阵假定模型中共有k个自变量，计算它们两两之间的相关系数，然后根据相关系数绝对值的大小来判定有无共线性问题。第五讲共线性与主成分分析的应用三、共线性的诊断与处理（一）共线性的诊断3、法勒（V.Farrar）-格罗珀(G.Glauber)检验。法勒-格罗珀判断共线性的方法，主要是通过一系列假设检验进行的。第五讲共线性与