3、多元线性回归.ppt

第 3 章 多元线性回归 3.1 多元线性回归模型 3.2 回归参数的估计 3.3 参数估计量的性质 3.4 显著性检验 3.5 中心化和标准化 3.6 相关阵与偏相关系数 学习目标 1. 回归模型、回归方程、估计的回归方程 2. 回归方程的拟合优度 回归方程的显著性检验 利用回归方程进行估计和预测 用 SPSS或Excel 进行回归分析 3.1多元回归模型与回归方程 多元回归模型(基本假定) ■解释变量 是确定性变量， ， 是列满秩矩阵 ■ 正态分布的假定 二元回归方程的直观解释 估计的多元回归方程 估计的多元回归的方程(estimated multiple regression equation) 一般形式为： 与一元回归的相似点 仍然是截距 到 都成为斜率参数 仍然是误差项（或称扰动项） 仍然需要做一个条件期望为0的假设， 现在假设： 仍然最小化残差的平方和，所以现在有 p+1 个一阶条件 一元回归估计VS多元回归估计 3.2参数的最小二乘估计 参数的最小二乘法 参数的最小二乘法 参数的最小二乘法 矩阵形式表示： 举例：估计收入决定模型 变 差 1. 因变量 y 的取值是不同的，y 取值的这种波动称为变差。变差来源于两个方面 ■ 由于自变量 x 的取值不同造成的 ■ 除 x 以外的其他因素(如x对y的非线性影响、测量误差等)的影响 2. 对一个具体的观测值来说，变差的大小可以通过该实际观测值与其均值之差 来表示 变差的分解 (图示) 离差平方和的分解 (三个平方和的关系) 离差平方和的分解 (三个平方和的意义) 1. 总平方和(SST) 反映因变量的 n 个观察值与其均值的总离差 2. 回归平方和(SSR) 反映自变量 x 的变化对因变量 y 取值变化的影响，或者说，是由于 x 与 y 之间的线性关系引起的 y 的取值变化，也称为可解释的平方和 3. 残差平方和(SSE) 反映除 x 以外的其他因素对 y 取值的影响，也称为不可解释的平方和或剩余平方和 多重判定系数 估计标准误差 对误差项?的标准差? 的一个估计值 衡量多元回归方程的拟合优度 计算公式为 参数的最小二乘法(例题分析) 例题分析 线性关系检验 线性关系检验 检验因变量与所有自变量之间的线性关系是否显著 也被称为总体的显著性检验 检验方法是将回归离差平方和(SSR)同剩余离差平方和(SSE)加以比较，应用F 检验来分析二者之间的差别是否显著 如果是显著的，因变量与自变量之间存在线性关系 如果不显著，因变量与自变量之间不存在线性关系 线性关系检验 提出假设 H0：?1??2????p=0 线性关系不显著 H1：?1，?2，?，?p至少有一个不等于0 回归系数检验和推断 回归系数的检验 线性关系检验通过后，对各个回归系数有选择地进行一次或多次检验 对每一个自变量都要单独进行检验 应用 t 检验统计量 回归系数的检验(步骤) 提出假设 H0： bi = 0 (自变量 xi 与 因变量 y 没有线性关系) H1： bi ? 0 (自变量 xi 与 因变量 y有线性关系) 计算检验的统计量 t 本章小结 多元回归模型、回归方程、估计方程 回归方程的拟合优度 显著性检验 偏相关系数表 Y与x的偏相关系数 Y与x的简单相关系数 Y与x的部分相关系数 ry1 ry2 ry2;1 先引x2 再引x1 ry1;2 先引x1 再引x2 用y与x1做一元线性回归时，x1能消除y的变差SST的比例为 再引入x2时，x2能消除剩余变差SSE（X1）的比例为 因而自变量x1和x2消除y变差的总比例为 =1-(1-0.651)(1-0.546)=0.842=84.2%。 这个值84.2%恰好是y对x1和x2二元线性回归的判定系数R2 结合实例介绍多元回归模型的建立过程： (1) 提出因变量与自变量，搜集数据； (2) 作相关分析，设定理论模型；用SPSS计 算增广相关阵； (3) 用SPSS计算回归分析结果； 回归方程： 复相关系数： 方差分析表： 回归系数的显著性检验： (4) 回归应用。 例3.3 中国民航客运量的回归模型。 y—民航客运量(万人), x1—国民收入(亿元), x2—消费额(亿元), x3—铁路客运量(万人), x4—民航航线里程(万公里), x5—来华旅游入境人数(万人)。 根据《1994年统计摘要》获得1978-1993年统计数据