第7章自变量选择和逐步回归.pptVIP

逐步回归每一步的回归模型的方差分析 逐步回归每一步的回归方程系数表。 二、逐步选择法 全局选择计算量很大： 6个变量，计算26-1=63个方程； 10个变量，计算210-1=1023个方程。 按选入变量顺序不同分前进法、后退法与逐步回归法，共同特点是每一步只引 入或剔除一个自变量Xj。 对Xj的取舍要进行F检验： 计算进行到第l步时： p :方程中自变量个数 SS回：Xj的偏回归平方和 SS残：残差平方和 缺点：后续变量的引入可能使先前引入的变量变的 不重要。 Xj入选 1.前进法（只选不剔） 自变量从无到有、从少到多 Y对每一个自变量作直线回归，对回归平方和最大的自变量作F检验，有意义（P小）则引入。 在此基础上，计算其它自变量的偏回归平方和，选取偏回归平方和最大者作F检验，… 2.后退法（只剔不选） 开始方程中包含全部自变量，然后从方程中选取偏回归平方和最小的自变量作F检验以决定是否从方程中剔除，直至无自变量可以从方程中剔除为止。 缺点：当某些自变量高度相关时，可能得不出正确 结果。 Xj剔除 3.逐步回归法（先选后剔，双向筛选） 开始方程中无自变量，从方程外选取偏回归平方和最大的自变量作F检验以决定是否选入方程； 每引一个自变量进入方程后，从方程中选取偏回归