多元回归补充-已读.pptVIP

多元回归选择合适模型的其他方法 在上题中使用 Minitab 中的回归程序，来看看我们如何找到合适数量的输入变量预测Y。七个变量中哪些变量与Y的关系密切，最佳回归模型中应该包含哪些因子？显然使用回归的方法效率太低！ 那是否存在更好的缩减因子，选择最佳拟合模型的方法呢？我们可以考虑如下步骤： 步骤1: 我们将讨论 多元回归时选择最佳模型的两种不同的方法： 方法1：逐步 此程序筛选所有输入，以产生 “最佳” 的模型 方法2：最佳子集 此程序提供最佳单变量、双变量、三变量等模型，但在处理多输入变量时会耗費大量时间。 步骤2: 回归 一旦最佳模型被选定后，回归程序将用该模型实施更详细的分析，我们同时会执行残差分析 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile . Copyright 2004-2011 Aspose Pty Ltd. 步骤1的方法1:逐步回归 逐步回归分析菜单 响应是我们需要预测的Y值，预测变量X1~X7全部选入。 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile . Copyright 2004-2011 Aspose Pty Ltd. 若大于，则从模型中删除该变量，再重复上述操作过程。如果没有任何自变量可以删除，则会尝试再加入一个新的自变量，重复上述操作，直至不能再引入也不能再删除为止。 逐步回归分析法就是让计算机自动进行多元回归分析中的自变量筛选工作。主要有三种方法： （1）逐步（向前或向后）的方法是：自变量逐个引入，边引入边检查已引入自变量中最大的p值是否已大于指定的“删除α值”， 逐步回归 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile . Copyright 2004-2011 Aspose Pty Ltd. 逐步回归 （2）前进法是：逐个引入自变量，先引入对y影响最大（p值最小者），再从其余自变量中寻找影响次大者， （p值次最小者），直到无任何变量p值小于指定的“选入α值”可以被引入为止，在前进法中，一旦被加进回归模型中，就不能再被删除。 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile . Copyright 2004-2011 Aspose Pty Ltd. 逐步回归 （3）后退法：一开始引入全部自变量，对于p值大于指定的“删除α值”，逐个删除，直至不能再删除为止。 常用的删除α值使用0.1 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile . Copyright 2004-2011 Aspose Pty Ltd. 上案例中使用的是 逐步（向前或向后） 方法 范例2：钢材产量与其他经济变量 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile . Copyright 2004-2011 Aspose Pty Ltd. 逐步回归结果 此处显示 X1,X2,X4是最佳的模型中的预测变量；注意：回归步骤停在三个变量的模型，表示第四或更多变量对于提高预测度并无帮助 此行显示每增加一个变量后， R-sq值的变化。通过增加第三个变量， R-sq值从99.31％增至99.71% R-sq调整值最大为99.60% Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile . Copyright 2004-2011 Aspose Pty Ltd. Mallows Cp 用来帮助在多个候选回归模型之间进行选择的一个统计量。Mallows Cp 会将整个模型的精确度和偏倚与具有最佳预测变量子集的模型进行比较。它可帮助您在模型中的预测变量数方面实现重要平衡。具有过多预测变量的模型的精确度相对较差，而预测变量过少的模型又会产生偏倚的估计。接近预测变量数加上常量数的 Mallows Cp 值表明模型在估计真实回归系数和预测未来响应时比较精确且无偏倚。 Mallows Cp ≈入选自变量个数+常量数 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile . Cop