第5章-多元线性回归分析.pptVIP

回归分析中的多重共线性问题 ●什么是多重共线性 ●多重共线性产生的后果 ●多重共线性的检验 ●多重共线性的补救措施 第一节 什么是多重共线性 ●多重共线性的含义 ●产生多重共线性的背景 所谓的多重共线性(Multi-Collinearity)，不仅包括完全的多重共线性，还包括不完全的多重共线性。 对于解释变量 ，如果存在不全为0的 数 ，使得 则称解释变量 之间存在着完全的多重 共线性。 当 时，表明在数据矩阵 中，至少有一个列向量可以用其余的列向量线性表示，则说明存在完全的多重共线性。 不完全的多重共线性 实际中，常见的情形是解释变量之间存在不完全的多重共线性。 二、产生多重共线性的背景 多重共线性产生的背景主要有几种情形： 1.变量之间具有共同变化趋势。 2.模型中包含滞后变量。 3.利用截面数据建立模型也可能出现多重共线性。 4.样本数据自身的原因。 第二节 多重共线性产生的后果 ●完全多重共线性产生的后果 ●不完全多重共线性产生的后果 一、完全多重共线性产生的后果 1.参数的估计值不确定 当解释变量完全线性相关时 ——OLS 估计式不确定 ▲ 从偏回归系数意义看：在 和 完全共线性时，无法保持 不变，去单独考虑 对 的影响（　 和　 的影响不可区分） ▲ 从OLS估计式看：可以证明此时 2.参数估计值的方差无限大 OLS估计式的方差成为无穷大： 二、不完全多重共线性产生的后果 如果模型中存在不完全的多重共线性，可以得到参数的估计值，但是对计量分析可能会产生一系列的影响。 1.参数估计值的方差增大 当 增大时 也增大 2.对参数区间估计时，置信区间趋于变大 3.假设检验容易作出错误的判断 4.可能造成可决系数较高，但对各个参数单独的 t 检验却可能不显著，甚至可能使估计的回归系数符号相反，得出完全错误的结论。 第三节 多重共线性的检验 ● 简单相关系数检验法 ● 方差扩大（膨胀）因子法 ● 直观判断法 ● 逐步回归法 一、简单相关系数检验法 含义：简单相关系数检验法是利用解释变量之间的线性相关程度去判断是否存在严重多重共线性的一种简便方法。 判断规则：一般而言，如果每两个解释变量的简单相关系数(零阶相关系数)比较高，例如大于0.8，则可认为存在着较严重的多重共线性。 注意： 较高的简单相关系数只是多重共线性存在的充分条件，而不是必要条件。特别是在多于两个解释变量的回归模型中，有时较低的简单相关系数也可能存在多重共线性。因此并不能简单地依据相关系数进行多重共线性的准确判断。 经验规则 ●方差膨胀因子越大，表明解释变量之间的多重共性越严重。反过来，方差膨胀因子越接近于1，多重共线性越弱。 ●经验表明，方差膨胀因子≥10时，说明解释变量与其余解释变量之间有严重的多重共线性，且这种多重共线性可能会过度地影响最小二乘估计。 三、直观判断法 1. 当增加或剔除一个解释变量，或者改变一个观测值时，回归参数的估计值发生较大变化，回归方程可能存在严重的多重共线性。 2. 从定性分析认为，一些重要的解释变量的回归系数的标准误差较大，在回归方程中没有通过显著性检验时，可初步判断可能存在严重的多重共线性。 3. 有些解释变量的回归系数所带正负号与定性分析结果违背时，很可能存在多重共线性。 4. 解释变量的相关矩阵中，自变量之间的相关系数较大时，可能会存在多重共线性问题。 四、逐步回归检测法 逐步回归的基本思想 将变量逐个的引入模型，每引入一个解释变量后，都要进行Ｆ检验，并对已经选入的解释变量逐个进行t 检验，当原来引入的解释变量由于后面解释变量的引入而变得不再显著时，则将其剔除。以确保每次引入新的变量之前回归方程中只包含显著的变量。 在逐步回归中，高度相关的解释变量，在引入时会被剔除。因而也是一种检测多重共线性的有效方法。 第四节 多重共线性的补救措施 ●修正多重共线性的经验方法 ●逐步回归法 一、修正多重共线性的经验方法 1.