自变量共线性和VIF逐步筛查-EmpowerStats.PDFVIP

自变量共线性和VIF 逐步筛查 在构建多元回归方程时，如果一组自变量存在共线性，即变量之间的相关性 过大，可以使得模型估计失真。 一个简单的方法来确定解释变量之间的共线性是利用方差膨胀因子（VIF）。 计算某变量的 VIF：首先构建一个线性回归方程，用所有其它变量解释该变量。 如一组自变量：X1、X2、X3…，构建X1 的线性回归方程： X1 = X2 + X3 + …… 取该方程的R-平方值，然后计算VIF = 1/ （1-R 平方） 同理，计算X2 的VIF，首先构建方程： X2 = X1 + X3 + …… VIF 计算简单，容易理解; VIF 值越高，共线性越高。通常 VIF 5 （或10） 是可以接受的。 本模块，对一组自变量的共线性，根据VIF 进行诊断筛查。筛查方法是： 首先计算每个变量的 VIF, 如果最大的VIF 值=5 (默认的筛查标准)，剔 除最大VIF 的变量，重复上步，直到剩下的所有变量的VIF 小于筛查标准。 例1. 自变量共线性导致模型估计失真。使用软件自带的demo 数据，对SBP 进 行回归分析， 结果如下： 模型1: SBP ~ AGE+HEIGHT+WEIGHT+BMI+OCCU.NEW+factor(EDU.NEW)+SEX 广义线性模型 结局变量: Systolic BP, mmhg 变量分布与联系函数: gaussian Estimate Se t value 95%CI.low 95%CI.upp P.value (Intercept) 67.9114 126.8002 0.5356 -180.617 316.4397 0.5924 AGE 0.7837 0.0588 13.3312 0.6685 0.8990 0.0000 HEIGHT 19.2738 80.1343 0.2405 -137.7895 176.3371 0.8100 WEIGHT -0.5046 1.1682 -0.4319 -2.7943 1.7852 0.6659 BMI 2.0144 2.9115 0.6919 -3.6922 7.7209 0.4892 OCCU.NEW -4.7628 1.4687 -3.2429 -7.6415 -1.8842 0.0012 factor(EDU.NEW)2 0.0945 1.9300 0.0489 -3.6884 3.8773 0.9610 factor(EDU.NEW)3 0.7773 2.3174 0.3354 -3.7648 5.3194 0.7374 SEX -4.5227 2.2005 -2.0552 -8.8357 -0.2096 0.0402 AIC: 6949.8292 Log Likelihood: -3464.9146 , df= 10 Null.deviance 402859.2183 on 787 degrees of freedom deviance 304315.5805 on 779 degrees of freedom 19.6641 (pearson chi-square normality test residuals SD P= 0.0001 ) R-squared 0.2446 Adj R-squared 0.2369 Number of observations 788 used: 模型2：SBP ~ AGE+HEIGHT+BMI+OCCU.NEW+factor(EDU.NEW)