计量经济学——逐步回归法.pdf

逐步最小二乘回归 建立回归模型的时候，可能会面临很多解释变量的取舍问题，这些 解释变量（包括相应的滞后变量）在经济意义上可能都对因变量有影响 而难以取舍，这种情形下，可以通过逐步回归分析方法（stepwise least squares regression, STEPLS）利用各种统计准则筛选解释变量。 Derksen, S. and H.J. Keselman(1992).”Backward, Forward and Stepwise Automated Subset Selection Algorithms: Frequency of Obtaining Authentic and Noise Variables”, British Journal of Mathematical and Statistical Psychology, 45, 265-282. Hurvich, C.M. and C.L. Tsai(1990), “The Impact of Model Selection on Inference in Linear Regression”, American Statistician, 44, 214-217. Roecker, E.B.(1991). “Prediction Error and its Estimation for Subset-Selection Model,” Technometrics, 33,459-469. 1 1. 单方向筛选法（Uni-directional method ） 这种方法包含前向法(Forwards)和后向法(Backwards) 两种，两种方法都是利用最大t值或者相对应的最小p 值作 为变量入选标准，即根据变量的显著性进行筛选。 前向法是根据最小p 值进行逐步回归。首先设定变量的入选 p 值标准（比如0.05），即将入选变量的显著性水平设为5% ； 其次选择所有变量中p 值最小并且小于所设定入选p 值标准 的变量加入模型，接着在剩余变量中一直筛选下去；当剩余 的每个变量加入模型后其p 值都大于设定的p 值时，或者增 加回归变量的数量达到了建模者事先设定的数值时，逐步回 归运算结束。 2 后向法与前向法类似，只不过这种方法一开始就将 全部的备选变量加入模型，然后选择p 值最大的变量，如 果此变量的p 值大于事先设定的数值，则将其剔除掉，然 后再在剩余的变量中依此做法选择剔除变量，直到模型 中剩余的解释变量所对应的p 值都小于设定值，或者增加 回归变量的个数达到设定数值时结束筛选。 3 2. 逐步筛选法（Stepwise method） 逐步筛选法是以单方向筛选法为基础的，也包含前向 法(Forwards)和后向法(Backwards)两种方法。逐步前向筛 选法最先是和单方向前向法完全相同，将p 值最小并且小于 所设定入选p 值标准的变量加入模型，但不同的是，每次增 加变量后还要执行单方向后向法的程序，即检查模型中包含 的解释变量中是否存在最大的p 值超过设定值的情况，如果 存在，则剔除这个变量。每次按照单方向前向法增加一个变 量的时候，都要按照单方向后向法检查是否要剔除一些不显 著的变量。筛选结束规则与上述两种方法相同。 4 3. 互换变量法（Swapwise method ） 这种方法基于模型整体效果，即通过判断拟合优度R2 作为筛选变量的标准。首先选择能够使得方程的R2增加最 大的变量入选，然后选择下一个能使回归方程R2增加最大 的变量。接下来，将第一个选中的变量逐一与未选中的变 量互换，一旦出现R2超过现在的数值的情况，就将