多元回归(补充).ppt

多元线性回归的基本思想是什么？ 多元线性回归的模型与一元线性回归 有什么异同？ 与一元线性回归相比，多元线性回归 的检验有何特殊之处？ 10.1多元线性回归模型 10.1多元线性回归模型 10.1多元线性回归模型 10.1多元线性回归模型 10.1多元线性回归模型 10.1多元线性回归模型 10.2 参数的最小二乘估计 10.2 参数的最小二乘估计 10.2 参数的最小二乘估计 10.3 回归方程的显著性检验 10.3.1 总离差平方和分解 10.3.1 总离差平方和分解 10.3.2 样本决定系数对回归方程“拟合优度” 的检验 10.3.2 样本决定系数对回归方程“拟合优度” 的检验 10.3.2 样本决定系数对回归方程“拟合优度” 的检验 10.3.3 回归方程的显著性检验 10.3.3 回归方程的显著性检验 10.3.3 回归方程的显著性检验 10.3.3 回归方程的显著性检验 10.3.3 回归方程的显著性检验 10.3.3 回归方程的显著性检验 10.4 回归系数的显著性检验 10.4 回归系数的显著性检验 10.4 回归系数的显著性检验 10.4 回归系数的显著性检验 10.4 回归系数的显著性检验 回归分析自变量选择的四种方法: 向前选择法 向后剔除法 逐步回归法 强迫进入法 强迫进入法 根据事先的对变量之间关系的理论假设，将研究变量按一定顺序投入到回归方程中，而不管其显著还是不显著。这种方法常用于路径分析中。后面的内容会讲到这点。 自变量的多重共线性 多重共线性是由于一个自变量与其它所有或某些自变量间的相关太高，以致它可以由其它自变量来线性表示。 多重共线性会导致估计值不准确，估计误差增大，甚至无法计算。 多重共线性的识别指标 虚变量的回归方程建立方法 如果自变量是离散型变量，那么就要使该自变量变成多个虚变量，虚变量的个数等于自变量水平数减1。 如果自变量有两个水平，如性别，那么我们只需要建立一个虚变量，用1表示男（女），用0表示女生。 如果自变量是三个水平，如家庭状况，它包括单亲家庭组、双亲家庭组和他人照顾组三个水平，我们只需要建立两个虚变量就可以。如下图。 注意虚变量的取值一般只是1和0两个。 多元回归分析步骤 根据理论假设，建立回归方程式：在SPSS中就是分别选择因变量和自变量。 考察是否存在离散型变量，如果存在，要转化为虚变量。 检验自变量是否存在多重共线性：在SPSS是点击statistics对话框中的Collinearity diagnostics。检验指标有：Tolerance、VIF和CI。 选择回归分析的方法：一般采用Stepwise方法和Enter法。前者还要在Option对话框中选择进入和删除的标准（一般采用默认标准）。 估计回归系数和标准化回归系数：点击statistics对话框中的Estimates。 检验回归方程的有效性：点击statistics对话框中的Model fit。 比较不同模型有效性的高低：点击statistics对话框中的R squared change。 检验模型的误差方差是否相等和是否呈正态分布： 点击statistics对话框中的Dubin-Watson和Casewise diagnostics。 点击plots对话框中的Histogram和Normal probability plot。 1. 前进法，回归方程中的自变量从无到有、从少到多逐个引入回归方程。此法已基本淘汰。 后退法，先将全部自变量选入方程，然后逐步剔除无统计学意义的自变量。 剔除自变量的方法是在方程中选一个偏回归平方和最小的变量，作F检验决定它是否剔除，若无统计学意义则将其剔除，然后对剩余的自变量建立新的回归方程。重复这一过程，直至方程中所有的自变量都不能剔除为止。理论上最好，建议使用采用此法。 逐步回归法，逐步回归法是在前述两种方法的基础上，进行双向筛选的一种方法。该方法本质上是前进法。 消除多重共线性：剔除某个造成共线性的自变量，重建回归方程；合并自变量；采用逐步回归方法。 第十章　多元线性回归 * 第十章 多元线性回归 多元线性回归分析：研究因变量（被解释变量）与两个或两个以上自变量（解释变量）之间的回归问题，称为多元回归分析。 多元线性回归分析的定义 线性回归 自变量个数 大于等于2 多元 线性 回归 b0为常数项,b1,…,bk为偏回归系数，表示在其它自变量保持不变时，增加或减少一个单位时Y的平均变化量， u是去除m个自变量对Y影响后的随机误差（残差）。 多元线性回归的基本理论 将n个观察数据代入上述模型，则问题转化为： 多元线性回归的基本理论 (10-1) 多