自变量的选择与逐步回归课件.pptVIP

§5.2 所有子集回归 data data1; input x1-x12 y; cards; 1.94 4.5 154.45 207.33 246.87 277.64 135.79 30.58 110.67 80.83 51.83 14.09 2384 0.33 6.49 133.16 127.29 120.17 114.88 81.21 14.05 35.7 16 27.1 2.93 202 … ； proc reg; model y=x1-x12/selection=adjrsq; run; 精品 §5.2 所有子集回归 以下是部分输出结果： Adjusted R-square Variables in Model R-square In 0 0 6 X3 X5 X8 X9 X10 X11 0 0 7 X3 X5 X6 X8 X9 X10 X11 0 0 6 X3 X6 X8 X9 X10 X11 0 0 7 X3 X4 X5 X8 X9 X10 X11 0 0 7 X3 X5 X8 X9 X10 X11 X12 0 0 7 X3 X5 X7 X8 X9 X10 X11 … 精品 §5.3 逐步回归 一、问题的提出及逐步回归的思想 自变量的所有可能子集构成2m-1个回归方程，当可供选择的自变量不太多时，用前边的方法可以求出一切可能的回归方程，然后用几个选元准则去挑出“最好”的方程，但是当自变量的个数较多时，要求出所有可能的回归方程是非常困难的。为此，人们提出了一些较为简便、实用、快速的选择“最优”方程的方法。人们所给出的方法各有优缺点，至今还没有绝对最优的方法，目前常用的方法有“前进法”、“后退法”、“逐步回归法”，而逐步回归法最受推崇。 精品 §5.3 逐步回归 一、问题的提出及逐步回归的思想 在后边的讨论中，无论我们从回归方程中剔除某个自变量，还是给回归方程增加某个自变量都要利用（3.42）式的偏F检验，这个偏F检验与（3.40）式的t检验是等价的，F检验的定义式的统计意义更为明了，并且容易推广到对多个自变量的显著性检验，因而采用F检验。 精品 §5.3 逐步回归 一、前进法 精品 §5.3 逐步回归 一、问题的提出及逐步回归的思想 精品 §5.3 逐步回归 一、问题的提出及逐步回归的思想 依上述方法接着做下去。直至所有未被引入方程的自变量的F值均小于Fα(1,n-p-1)时为止。这时，得到的回归方程就是最终确定的方程。 每步检验中的临界值Fα(1,n-p-1)与自变量数目p有关，在用软件计算时，我们实际使用的是显著性P值（或记为sig）做检验。 精品 §5.3 逐步回归 一、问题的提出及逐步回归的思想 例5.4 对例3.1国际旅游外汇收入y对第三产业的12个变量做回归的数据，用前进法做变量选择，取显著性水平α进=0.05。 首先进入线性回归对话框，将y与x1至x12分别选入各自的变量框，然后在Method对话框中点选前进法Forward,点选Options选项看到默认的显著性水平α进正是0.05。部分运行结果如下： 精品 §5.3 逐步回归 精品 §5.3 逐步回归 精品 §5.3 逐步回归 精品 §5.3 逐步回归 一、问题的提出及逐步回归的思想 精品 §5.3 逐步回归 二、后退法 精品 第5章 自变量的选择与逐步回归 5.1 自变量选择对估计和预测的影响 5.2 所有子集回归 5.3 逐步回归 5.4 本章小结与评注 精品 §第5章 自变量选择与逐步回归 从20世纪60年代开始，关于回归自变量的选择成为统计学中研究的热点问题。统计学家们提出了许多回归选元的准则，并提出了许多行之有效的选元方法。 本章从回归选元对回归参数估计和预测的影响开始，介绍自变量选择常用的几个准则；扼要介绍所有子集回归选元的几个方法；详细讨论逐步回归方法及其应用。 精品 §5.1 自变量选择对估计和预测的影响 一、全模型和选模型 设研究某一实际问题涉及到对因变量有影响的因素共有m个，回归