《商务统计学》9.8多元线性回归分析.pptx

多元线性回归分析 1. 多元线性回归模型描述 多元线性回归方程构建 多元线性回归方程检验 多元线性回归分析 当回归分析中涉及两个或两个以上的自变量，且自变量与因变量之间为线性关系时称为多元线性回归分析。 多元线性回归模型（simple linear regression model） 描述因变量 如何依赖于两个或两个以上的自变量 和误差项 的线性方程称为多元线性回归模型 多元线性回归模型可表示为 、 、…、 表示自变量的各个取值 表示自变量的个数 表示对应的因变量取值 、 、…、 为模型的参数 误差项 是随机变量 古典线性回归模型假设条件 假设一：正态性 随机误差项 是一个服从正态分布的随机变量。 假设二：零均值 随机误差项 的数学期望为0。 假设三：同方差 对于所有的 取值，随机误差项 的方差相同。 假设四：独立性 对于一个特定的 ，它所对应的 与其他 所对应的 不相关。 多元线性回归方程 利用观察数据计算出 、 、… 、 的估计量 、 、 ， 得到样本多元线性回归方程为 样本多元线性回归模型记为 其中， 称为残差，是观察数据与估计值之间的误差。 最小二乘法(Method of Least Squares ) 回归直线应满足的条件是：全部观察值与对应的估计值的离差平方和的总和为最小，即残差平方和最小。 此准则称为最小二乘准则或最小平方准则，依据此准则估计回归模型参数 、 、… 、 的方法就是最小二乘法。 多重判定系数 1. 多重判定系数：回归平方和占总离差平方和的比例 2. 修正的多重判定系数：用自由度对多重判定系数进行修正。 回归估计标准差 其中： 为观察数据数目； 为自变量数目 当 时，该式即为一元线性回归分析中的回归估计标准误差。 回归方程检验 判断自变量 作为一个整体和因变量 之间的线性关系是否显著的。 多元线性回归分析中，原假设与备择假设： 如果原假设成立，构造检验统计量 回归方程检验 利用观察数据计算出检验统计量 的值，结合给定的显著性水平 ， 利用临界值 或 值进行比较。 如果 或 ，则拒绝原假设 ，说明至少有一个自变量的回归系数不为0，自变量与因变量的线性关系总体上是显著的。 反之，如果 或 ，则不能拒绝原假设 ，说明所有自变量与因变量的线性关系都不显著。 回归系数检验 判断每一个自变量 和因变量 之间的线性关系是否显著的， 也就是检验每一个自变量 的回归系数是否与0有显著区别。 多元线性回归分析中，原假设与备择假设： 如果原假设成立，构造检验统计量 回归系数检验 利用观察数据计算出检验统计量 的值，结合给定的显著性水平 ，利用临界值 ，或 值进行比较。 如果 值落在 之外即落在拒绝域，或 ，则拒绝原假设 ， 说明该自变量 的回归系数是显著不同于0的，也就是说，该自变量 与因 变量 之间存在显著的线性关系。 反之，如果 值落在 之内即落在拒绝域之外，或 ，则不能 拒绝原假设 ，说明该自变量 的回归系数与0的区别是不显著的，该自变量 与 与 因变量 之间不存在显著的线性关系。 小结 1. 多元线性回归模型描述 多元线性回归方程构建 多元线性回归方程检验 思考练习 在多元线性回归分析中，拟合优度的判断为何常用修正的多重判定系数 而不是直接使用多重判定系数 呢？