(应用统计学经济与相关管理中的数据分析)第十章线性回归分析.ppt

* 第六节 变量筛选方法 在实际工作中使用过多元回归分析的人都知道，用回归建模首先遇到的难题，就是选择哪些变量作为因变量 的解释变量。在选择自变量时，一方面希望尽可能不遗漏重要的解释因素；另一方面，又要遵循参数节省原则，使自变量的个数尽可能少。因为当自变量过多时，模型计算复杂，且往往会扩大估计方差，降低模型精度。 在确定自变量系统时，一是采用穷举法，列出所有可能的自变量；再根据自变量的不同组合，选择最合适的模型。由于每个变量都有可能被选用或不被选用，所以穷举法要拟合与比较的方程个数为 ( 为所有可能的自变量的个数)。 当备选的自变量数目很大时，采用穷举法就完全不现实了。因此，在近几十年间，又发展了一些更有效的变量筛选方法，其中最广为人知的有向后删除变量法、向前选择变量法与逐步回归法。 * 一、向后删除变量法 向后删除变量法(backward elimination)在算法的起步，所有的自变量都被包含在模型之中。然后，依次对每一个自变量做 检验。如果所有的自变量都通过了 检验，则计算停止，所有自变量被包含在模型之中。如果有若干自变量未能通过 检验，则首先选择 绝对值最小的自变量，将它从模型中删除。 接着，用剩下的 个自变量拟合一个线性回归模型。然后，重新对模型中的每一个自变量进行 检验。在没有通过检验的自变量中，再选择 的绝对值最小者，将它从模型中删除。 重复以上步聚，直到模型中包含的所有自变量都能通过 检验，则算法终止。 * 二、向前选择变量法 * 三、逐步回归法 * 三、逐步回归法 * 第七节 残 差 分 析 一、残差分析的基本原理 * 二、残差分析的几个主要内容 * 第八节 案例分析与统计软件应用 一、一元线性回归建模与Excel软件应用 下面将采用Excel 2003软件进行计算。 第1步：为了使该软件具备线性回归的功能，首先要选择【工具】|【加载宏】命令，并在【加载宏】对话框中选择【分析工具库】选项，如图10-6所示。于是在【工具】菜单中就会出现【数据分析】命令。 第2步：将表10-2中的数据输入到Excel表中。选择【工具】|【数据分析】命令，然后在【数据分析】对话框中选择【回归】选项，如图10-7所示。 * 一、一元线性回归建模与Excel软件应用 第3步：在【回归】对话框的【输入】选项组中，分别将季度销售额y与学生人数x输入到【Y值输入区域】和【X值输入区域】；然后在【输出选项】选项组中，选中【新工作表组】单选按钮。此外，在回归建模的输入界面，还允许选择【残差】、【标准残差】、【残差图】和【线性拟合图】，并且还可以选择【正态概率图】，如图10-8所示。 * 二、多元线性回归建模与SPSS软件应用 下面再通过一个例子，来简单说明如何使用SPSS软件进行多元线性回归建模，软件版本为PASW Statistics 18。 在SPSS软件中选择Analyze?|?Regression?|?Linear命令，打开Linear Regression对话框，把有关的自变量选入Independents，把因变量选入Dependent，然后单击OK按钮即可。如果自变量有多个(多元回归模型)，只要都选入就行。输出的结果主要包括：回归系数、R2、F检验的结果、t检验结果，等等。如果要进行变量筛选，可以在Linear Regression对话框的Method下拉列表框中选择Enter(向前选择变量法)、Backward(向后删除变量法)，或Stepwise(逐步回归法)等选项，如图10-12所示。 * 第九节 虚拟自变量的回归 在多元线性回归模型中，允许在自变量集合中包含定性自变量。最简单的定性变量是虚拟变量(dummy variable)。当 是虚拟变量时，它的取值只有两个数值：0或1。例如 如果是性别变量，则可以令 表示女性；令 表示男性。下面采用一个例题来说明采用虚拟自变量进行回归建模的过程。 * 第十节 拟线性回归模型 一、非线性回归问题 无论是在理论研究还是在实践中，线性方法都得到广泛的应用。这是因为线性方法的形式简单，计算方便，理论性质易于讨论，并且常常能够比较好地解决所需要处理的问题。然而，随着技术手段的发展和所能获得的信息的增多，人们逐渐发现，在很多时候采用线性的方法无法取得令人满意的效果。其中最重要的原因是由于自然界以及人类社会中的现象是非常复杂的，现象之间的内在联系往往不是线性的，而更多的是错综复杂的非线性关系。在技术、经济、社会等众多研究领域中，大量事实也表明，非线性才是复杂现象的本质，是一切物质运动的普遍规律。因而，在科学研究中，从“线性”向“非线性”的过渡与发展，是研究深化的必然趋势之一。 要解决非线性问题，就是要通过观察到的现象，找到所要研究系统的内部关系，建立数学模型，来反映其变量之