第十章 多元相关与回归分析.ppt

第 10 章 多元线性回归 10.1 多元线性回归模型 10.2 回归方程的拟合优度 10.3 显著性检验 10.4 多重共线性 10.5 哑变量回归 10.6 非线性回归 学习目标 1. 回归模型、回归方程、估计的回归方程 2. 回归方程的拟合优度 回归方程的显著性检验 利用回归方程进行估计和预测 非线性回归 用 SPSS 进行回归分析 多元回归模型与回归方程 多元回归模型 (multiple regression model) 一个因变量与两个及两个以上自变量的回归 描述因变量 y 如何依赖于自变量 x1 ， x2 ，…， xk 和误差项 ? 的方程，称为多元回归模型 涉及 k 个自变量的多元回归模型可表示为 多元回归模型(基本假定) 误差项ε是一个期望值为0的随机变量，即E(?)=0 对于自变量x1，x2，…，xk的所有值，?的方差? 2都相同 误差项ε是一个服从正态分布的随机变量，即ε~N(0,?2)，且相互独立 多元回归方程 (multiple regression equation) 描述因变量 y 的平均值或期望值如何依赖于自变量 x1， x2 ，…，xk的方程 多元线性回归方程的形式为 E( y ) = ?0+ ?1 x1 + ?2 x2 +…+ ?k xk 二元回归方程的直观解释 估计的多元回归方程 估计的多元回归的方程(estimated multiple regression equation) 用样本统计量 估计回归方程中的 参数 时得到的方程 由最小二乘法求得 一般形式为 参数的最小二乘估计 参数的最小二乘法 参数的最小二乘法(例题分析) 多重判定系数 多重判定系数(multiple coefficient of determination) 回归平方和占总平方和的比例 计算公式为 因变量取值的变差中，能被估计的多元回归方程所解释的比例 修正的判定系数 在样本容量一定的条件下，不断向模型中增加自变量，即使新增的变量与Y不相关，模型的R2也可能上升，至少不会下降。 在实际应用中，研究人员更欢迎简单的模型，这样的模型更简单和易于解释。如果根据R2来选择模型，显然会倾向于复杂的模型。 更常用的指标是“修正后的Ra2”。 修正多重判定系数(adjusted multiple coefficient of determination) 用样本量n和自变量的个数k去修正R2得到 计算公式为 避免增加自变量而高估 R2 意义与 R2类似 数值小于R2 估计标准误差 Se 对误差项?的标准差? 的一个估计值 衡量多元回归方程的拟合优度 计算公式为 线性关系检验 线性关系检验 检验因变量与所有自变量之间的线性关系是否显著 也被称为总体的显著性检验 检验方法是将回归均方(MSR)同残差均方(MSE)加以比较，应用 F 检验来分析二者之间的差别是否显著 如果是显著的，因变量与自变量之间存在线性关系 如果不显著，因变量与自变量之间不存在线性关系 线性关系检验 提出假设 H0：?1??2????k=0 线性关系不显著 H1：?1，?2，? ?k至少有一个不等于0 回归系数检验和推断 回归系数检验和推断 回归系数的检验(步骤) 提出假设 H0： bi = 0 (自变量 xi 与 因变量 y 没有线性关系) H1： bi ? 0 (自变量 xi 与 因变量 y有线性关系) 计算检验的统计量 t 回归系数的推断 (置信区间) ?回归系数在(1-?)%置信水平下的置信区间为 多重共线性及其产生的问题 多重共线性 回归模型中两个或两个以上的自变量彼此相关 多重共线性带来的问题有 t检验值会减小、系数的显著性下降。 对于一组存在高度多重共线性的自变量，很难对单个系数进行解释。 有可能导致各回归系数的符号同我们的预期相反 。 多重共线性的识别 多重共线性的识别 检测多重共线性的最简单的一种办法是计算模型中各对自变量之间的相关系数，并对各相关系数进行显著性检验 若有一个或多个相关系数显著，就表示模型中所用的自变量之间相关，存在着多重共线性 如果出现下列情况，暗示存在多重共线性 模型中各对自变量之间显著相关 当模型的线性关系检验(F检验)显著时，几乎所有回归系数的t检验却不显著 回归系数的正负号与预期的相反 多重共线性(例题分析) 【例】判别各自变量之间是否存在多重共线性 多重共线性(例题分析) 【例】判别各自变量之间是否存在多重