52多元线性回归要点.pptVIP

利用双曲线变换后的回归结果 虚拟自变量的回归 虚拟自变量（dummy variable)：定性自变量 例题：研究工资与工作年限和性别之间的关系 工资水平与工作年限的一元回归结果 工资与工作年限、性别之间的多元回归 12 多重共线性的识别 自变量多重相关性问题  1. 现象：自变量之间存在相关关系 2. 危害： 3. 常见的表象： （1）增加一个变量后，回归系数变化非常大； （2）R2很大，F检验通过，但 t 检验却均不通过； （3）回归系数的符号无法解释。 多重共线性(例题分析) 【例】判别各自变量之间是否存在多重共线性 贷款余额、应收贷款、贷款项目、固定资产投资额之间的相关矩阵 例：约翰·内特（Jone Neter）等人在《应用线性回归模型》一书中给出的身体脂肪的数据：对20位25~34岁的健康女性进行测量。变量为身体脂肪 ，三头肌皮褶厚度，大腿围长 和中臂围长 。 以三头肌皮褶厚度，大腿围长和中臂围长作为自变量 R2=0.801， F=21.517，F—检验通过 T 检验值分别是: t1=1.44， t2 = ?1.11， t3= ?1.37 由于 =2.921，所以，3个自变量的t-检验均不能通过! 多重共线性问题的处理 多重共线性问题：变量筛选 1.向后筛选法 （Backward Elimination） 1）起始：所有自变量X1 ~ Xk 均包含 在模型中； 如果 t-test都显著，则X1 ~ Xk 均包含在模型中； 如果 存在若干 t-test不通过的参数，则先把 tj 值最小的变量删除。 2）对剩余的（k-1) 个变量做回归方程, 删除t-test不通过中，t 值最小的变量； 3）重复以上步骤。直到模型中所以变量均通过 t-test。 2.向前选择法 （Foreword Selection） 1）起始：模型中没有任何变量。分别计算Y与每一个 Xj 的一元线性回归模型。 选择t-test值最大的变量首先进入模型（不妨设X1). 2）对剩余的（k-1)个变量分别做二元回归方程， 在所有通过 t-test 的变量中，选择 值最大的进入方程。 3）重复以上步骤，直到模型外所有变量均不能通过 t-test。 3. Stepwise Regression（逐步回归法） 前进法的问题： 一旦某自变量进入模型后，它就永远留在模型中。然而，随着其他自变量的引入，一些先进入模型的变量的作用会变得不再显著。 向后法的问题： 一旦某自变量被删除后，就永远不再进入模型。然而，随着其他自变量被删除，它的作用有可能会显著起来。 Stepwise Regression（逐步回归法） 对于模型外部的变量，只要还能提供显著的解释作用，则可以再次进入模型。而在模型内部的变量，只要它的 t—检验不再显著，则可以从模型中删除。 方法： 边进边退 起始：同前进法； 结束：模型外所有变量均不能通过t—检验。 t进  为了避免变量进出循环，一般选取 t-test的进、出水平不等： 原则：一旦出去，就很难进来。 t出 例：逐步回归 n = 13 y — 水泥在凝固时单位质量释放的热量 x1 — 3CaO Al2O3 的成分 x2 — 3CaO SiO2 的成分 x3 — 4CaO Al2O3 Fe2O3的成分 x4 — 2CaO SiO2 的成分 78.5 7 26 6 60 74.3 1 29 15 52 104.3 11 56 8 20 87.6 11 31 8 47 95.9 7 52 6 33 109.2 11 55 9 22 102.7 3 71 17 6 72.5 1 31 22 44 93.1 2 54 18 22 115.9 21 47 4 26 83.8 1 40 23 34 113.3 11 66 9 12 109.4 10 68 8 12 第一轮计算（一元回归）： Variable T Sign T. x1 3.55 0.004552 x2 4.6862 0.00067 x3 -2.09