统计学（第四版 贾俊平等）第十二章 多元线性回归.pptVIP

上节内容 1线性关系是否显著 1).提出假设 H0：?1=0 线性关系不显著 H1：?1≠0 线性关系显著 2).计算检验统计量F 上节内容 2.检验自变量对因变量是否有显著影响 1).提出假设 H0: b1 = 0 (自变量对因变量没有影响) H1: b1 ? 0 (自变量对因变量有显著影响) 2).计算检验的统计量 上节内容 3.点估计和区间估计 1)y的平均值的置信区间估计 设x0为x的一个特定值或给定值；E(y0) 为给定x0时y的平均值或期望值。当x=x0时， 为的估计值。 E(y0) 在1-?置信水平下的置信区间为 上节内容 2).y的个别值的预测区间估计 y0在1-?置信水平下的预测区间为 上节内容 第12章 多元线性回归 第12章 多元线性回归 §12.1 多元线性回归模型 §12.2 回归方程的拟合优度 §12.3 显著性检验 §12.4 多重共线性 §12.5 利用回归方程进行估计和预测(删去) §12.6 变量选择与逐步回归(删去) §12.7 虚拟自变量的回归 12.1 多元线性回归模型 一个因变量与两个及两个以上自变量的回归问题就是多元回归。 12.1.1 多元回归模型与回归方程 设因变量y，k个自变量分别为x1，x2，…，xk，描述因变量y如何依赖自变量x1，x2，…，xk和误差项 ? 的方程，称为多元回归模型(multiple regression model)。多元回归模型一般形式为： 12.1.1 多元回归模型与回归方程 (1).误差项ε是一个期望值为0的随机变量，即E(?)=0。即： (2).对于自变量x1，x2，…，xk的所有值，?的方差?2都相同 (3).误差项ε是一个服从正态分布的随机变量，即ε~N(0,?2)，且相互独立。独立性意味着对于自变量x1，x2，…，xk的一组特定值所对应的ε与x1，x2，…，xk任意一组其他值所对应的ε不相关。正态性意味着对于给定的x1，x2，…，xk的值，因变量y也是一个服从正态分布的随机变量。 12.1.1 多元回归模型与回归方程 根据回归模型的假定有E(y)=?0+?1x1+?2x2+…+ ?k xk，上式称为多元回归方程(multiple regression equation)，它描述了因变量y的期望值与自变量x1，x2，...，xk之间的关系。 12.1.1 多元回归模型与回归方程 12.1.2 估计的多元回归方程 12.1.3 参数的最小二乘估计 12.1.3 参数的最小二乘估计 12.1.3 参数的最小二乘估计 12.2 多重判定系数 多元回归中因变量离差平方和的分解： SST=SSR+SSE 12.2 多重判定系数 注：由于自变量个数的增加，将影响到因变量中被估计回归方程中所解释的变差数量。当增加自变量时，会使预测误差变得比较小，从而减少残差平方和SSE，由于回归平方和SSR=SST-SSE，当SSE变小时，SSR会变大，从而R2也会变大。如果模型中增加一个自变量，即使这个自变量在统计上并不显著，R2也会变大，为避免这种情况，提出调整的多重判定系数(adjusted multiple coefficient of determination) 计算公式为 12.2 多重判定系数 调整的多重判定系数 的解释与R2类似，不同的是： (1). 同时考虑了样本量和模型中的自变量的个数的影响，这就使得 的值永远小于R2，而且 的值不会由于模型中自变量个数的增加而越来越接近1。因此，在多元回归分析中，通常用调整的多重判定系数。 (2).R2的平方根称为多重相关系数，也称为复相关系数，它度量了因变量同k个自变量的相关程度。 12.2.2 估计标准误差 多元回归分析中的估计标准误差也是对误差项?的标准差?的一个估计值，它是衡量多元回归方程的拟合优度方面也起着重要作用。 计算公式为 多元回归中对se的解释： 由于se所估计的是预测误差的标准差，其含义是根据自变量x1，x2，…，xk来预测因变量y时的平均预测误差。 12.3.1 线性关系检验 1.检验因变量与所有自变量之间的关系是否显著，也被称为总体显著性检验。 2.检验方法是将回归平方和(SSR)同残差平方和(SSE)加以比较，应用F检验来分析二者之间的差别是否显著。 如果是显著的，因变量与自变量之间存在线性关系 如果不显著，因变量与自变量之间不存在线性关系 12.3.1 线性关系检验 第1步：提出假设 H0：?1??2????k=0