3多元线性回归详解讲解.pptVIP

第 3 章 多元线性回归 3.1 多元线性回归模型 3.2 回归方程的拟合优度 3.3 显著性检验 3.4 中心化和标准化 3.5 相关阵与偏相关系数 学习目标 1. 回归模型、回归方程、估计的回归方程 2. 回归方程的拟合优度 回归方程的显著性检验 利用回归方程进行估计和预测 用 SPSS或Excel 进行回归分析 多元回归模型与回归方程 多元回归模型(基本假定) 解释变量 是确定性变量， ， 是满秩矩阵 ■ 正态分布的假定 二元回归方程的直观解释 估计的多元回归方程 估计的多元回归的方程(estimated multiple regression equation) 用样本统计量 估计回归方程中的参数 时得到的方程 由最小二乘法求得 一般形式为 与一元回归的相似点 仍然是截距 到 都成为斜率参数 仍然是误差项（或称扰动项） 仍然需要做一个条件期望为0的假设， 现在假设： 仍然最小化残差的平方和，所以现在有 p+1 个一阶条件 一元回归估计VS多元回归估计 参数的最小二乘估计 参数的最小二乘法 参数的最小二乘法 以上方程组经整理后，得到用矩阵形式表示的正归方程组 得 当 存在时，即得回归参数的最小二乘估计为 参数的最小二乘法(例题分析) 例题分析 变 差 1. 因变量 y 的取值是不同的，y 取值的这种波动称为变差。变差来源于两个方面 ■ 由于自变量 x 的取值不同造成的 ■ 除 x 以外的其他因素(如x对y的非线性影响、测量误差等)的影响 2. 对一个具体的观测值来说，变差的大小可以通过该实际观测值与其均值之差 来表示 变差的分解 (图示) 离差平方和的分解 (三个平方和的关系) 离差平方和的分解 (三个平方和的意义) 1. 总平方和(SST) 反映因变量的 n 个观察值与其均值的总离差 2. 回归平方和(SSR) 反映自变量 x 的变化对因变量 y 取值变化的影响，或者说，是由于 x 与 y 之间的线性关系引起的 y 的取值变化，也称为可解释的平方和 3. 残差平方和(SSE) 反映除 x 以外的其他因素对 y 取值的影响，也称为不可解释的平方和或剩余平方和 多重判定系数 估计标准误差 Sy 对误差项?的标准差? 的一个估计值 衡量多元回归方程的拟合优度 计算公式为 线性关系检验 线性关系检验 检验因变量与所有自变量之间的线性关系是否显著 也被称为总体的显著性检验 检验方法是将回归离差平方和(SSR)同剩余离差平方和(SSE)加以比较，应用F 检验来分析二者之间的差别是否显著 如果是显著的，因变量与自变量之间存在线性关系 如果不显著，因变量与自变量之间不存在线性关系 线性关系检验 提出假设 H0：?1??2????p=0 线性关系不显著 H1：?1，?2，?，?p至少有一个不等于0 回归系数检验和推断 回归系数的检验 线性关系检验通过后，对各个回归系数有选择地进行一次或多次检验 究竟要对哪几个回归系数进行检验，通常需要在建立模型之前作出决定 对每一个自变量都要单独进行检验 应用 t 检验统计量 回归系数的检验(步骤) 提出假设 H0： bi = 0 (自变量 xi 与 因变量 y 没有线性关系) H1： bi ? 0 (自变量 xi 与 因变量 y有线性关系) 计算检验的统计量 t 本章小结 多元回归模型、回归方程、估计方程 回归方程的拟合优度 显著性检验 3.5 中心化和标准化 在回归分析中，多个自变量的单位不同，给利用回归 方程进行结构分析带来一定困难；还有可能由于舍入 误差使计算结果不理想。 产生舍入误差有两个主要原因：一是计算中数据量级 有很大差异；二是 的列向量近似线性相关， 为 病态矩阵，其逆矩阵 会产生较大误差 一 中心化 多元线性回归模型的一般形式为 其估计的回归方程为 该方程经过样本中心 ，将坐标 原点移至样本中心，作坐标变换 得到中心化估计的回归方程