第9章 SPSS 线性回归分析PPT.ppt

若 pa，拒绝H0,y和x线性关系显著，应保留在方程中； 若 pa,不能拒绝H0， y和x线性关系不显著。 一元线性回归方程的检验和回归系数的检验是等效的。 需要对回归系数是否为零逐一进行检验。 原假设H0:βi=0 ，即:第i个偏回归系数与0无显著差异 利用t检验统计量（略） 若与t统计量的概率伴随p a，则拒绝H0 多元线性回归中回归系数的检验与整体回归方程的检验不能相互替代。 二、多元线性方程回归系数的检验 9.3.4残差分析 残差指由回归方程计算所得的预测值与实际样本值之间的差距，即模型中εi 的估计值： 回归模型要求：残差序列中不含明显的规律性和趋势性，均值为零、正态分布、等方差，且序列是独立的。 一、残差均值为零的正态分析 可以通过绘制残差散点图来观察：如果残差的均值为零，残差图中的点应在纵坐标为零的横线上下随机散落，如下图。 二、残差的独立性分析（非自相关） 残差是独立的，则残差序列应满足cov（εi , εj）=0（i≠j）,表示残差序列前期和后期之间不存在相关关系，即不存在自相关。独立性检验方式： 第一、绘制残差序列图（下图残差随时间的推移，呈有规律变化，表明残差序列存在一定的正或负自相关） 自相关系数用于测定序列自相关强弱，其取值范围-1~+1，接近1表明序列存在正自相关 第二、计算残差的自相关系数 DW检验用于推断小样本序列是否存在自相关的方法。其原假设为：总体自相关系数ρ与零无显著差异。采用统计量为： DW取值在0~4之间： =（-1,0）时，DW=（2，4）残差序列负自相关 =0时， DW=2，残差序列无自相关 = （0,1）时，DW=（0，2）残差序列正自相关 残差存在自相关表明遗漏了解释变量，或变量取值存在滞后性，或线性模型不适合 第三、DW（durbin-watson）检验 三、残差异方差分析 回归分析要求残差的方差相等，如果存在异方差，则参数的最小二乘估计不再是最小方差的无偏估计。因此需要检验残差是否存在异方差。其方法： 第一，绘制残差图（下图残差的方差随解释变量值的增加呈现增加趋势，表明存在异方差） 第二，计算等级相关系数 得到残差序列后首先取其绝对值，然后分别计算出残差和解释变量的 秩，最后计算spearman等级相关系数，进行等级相关分析。若p值小于给定显著性水平α，则拒绝原假设，认为解释变量与残差间存在显著相关，出现了异方差现象。 9.4 多元回归分析中的其它问题 9.4.1解释变量的筛选问题 多元回归分析中，模型选中应引入多少解释变量呢？少了难以解释对解释变量的变化，多了会引起多重共线。 一、向前筛选策略 指解释变量不断进入回归方程的策略。 首先引入与被解释变量线性相关系数最高的解释变量进入方程，并进行回归方程的各种检验； 然后，引入与被解释变量偏相关系数最高并通过检验的解释变量，并对新方程进行各项检验； 直到没有可引入的变量为止。 二、向后筛选策略 指解释变量不断剔除出回归方程的过程。 首先，将所有解释变量引入方程，并检验； 然后剔除t检验值不显著（最小）的一个或多个变量，重新建立回归方程并进行各种检验。 如果回归系数都显著，则方程建立结束。否则，接着依次删除最不显著的解释变量。 三、逐步筛选策略 指向前向后筛选的综合策略。 在向前筛选过程中，随着变量不断引入方程，需要再次判断是否存在可剔除的解释变量，如有，则剔除。 9.4.2 变量的多重共线性问题 变量的多重共线：指解释变量之间存在线性相关关系的现象。 若存在多重共线，则会造成偏回归系数估计困难、估计的方差增大、估计值的不稳定性增强、偏回归系数假设检验的结果不显著等问题。 测度多重共线的方法如下： 一、容忍度 解释变量xi 的容忍度:Toli=1-Ri2，其中: Ri2是解释变量xi与方程中其他解释变量间复相关系数的平方，表明了解释变量之间的线性相关程度。 容忍度大表示与其他自变量的共线性低,应进入方程。容忍度很小的变量,spss才会给出警告，不应进入方程 （T0.1一般认为具有多重共线性） 二、方差膨胀因子 方差膨胀因子(VIF):容忍度的倒数 方差膨胀因子取值大于等于1。R i 2接近0，解释变量间多重共线性越弱，VIF i 越接近于1。 如果VIF i 大于等于10，说明解释变量xi 与方程中其余解释变量之间有严重的多重共线性。 另外，也可以采用方差膨胀因子的均值来测度多重共线性。 三、特征值与方差比 如果最大特征值远大于其它特征值，表明该解释变量能刻画所有解释变量绝大部分信息（方差），意味着解释变量间存在较强的线性相关关系。 常