4 多元回归：估计与假设检验.ppt

第四章 多元回归：估计与假设检验;包含多个解释变量的回归模型称为多元回归模型。多元是指由多种因素对应变量有影响。本章将以三变量线性回归模型为例来讲解多元回归模型。一旦掌握了三变量模型，就很容易将结论扩展到更多元的线性回归模型。 本章的内容如下： 1.三变量线性回归模型与三变量线性回归模型的假设 2.三变量线性回归模型的OLS估计量以及OLS估计量的方差与标准误 3.多元回归的拟合优度：多元判定系数 4.多元回归的假设检验 5.其他问题 ;一、三变量线性回归模型及古典模型的假定 三变量线性回归模型的非随机总体回归函数（PRF）一般可以表示为： 随机形式： 其中，Y为应变量；X1,X2为解释变量；u为随机误差项；t表示第t期观察值。B1是截距，表示当X1,X2为零时Y的平均值。B2、B3称为偏回归系数。 三变量线性回归模型的PRF也是给出了在给定解释变量的情况下，相应的Y总体的条件均值。;偏回归系数 三变量线性回归模型中的斜率系数 称为偏回归系数(Partial regression coefficient)或偏斜率系数(partial slope coefficient)。其表示的意义为， 度量了在 保持不变的情况下， 单位变动引起 均值的改变量；同样， 度量了在 保持不变的情况下， 单位变动引起 均值的改变量。 例如： 多元线性回归模型的若干假定 (1)回归模型是参数线性的。 (2)回归模型是正确设定的。 (3)解释变量与随机误差项不相关。 (4)随机误差项均值为零 ;(5)不同随机误差项的方差相同，即： (6)不同随机误差项之间不相关，或者无自相关，即： (7)解释变量 和 之间不存在完全共线性，即两个解释变量之间无确切的线性关系。 如果变量 能表示为另一变量 的线性函数，则称 和 之间是共线性的。在 和 存在共线性的情况下，不能通过一个样本估计出 和 的参数值。 注意：虽然在实际中很少遇到完全共线性的情况，但是高度共线性或近似共线性的情况还是很常见的。 (8)随机误差项服从均值为零，方差为 的正态分布，即：;二、三变量线性回归模型的OLS估计量;求解该最小化问题后得到如下正规方程式： 将以上三个正规方程做简单代数变换，得到??;2.三变量模型OLS估计量的方差与标准误 根据三变量线性回归模型OLS估计量的推导式可以知道， 、 、 估计量的方差与标准误为：;对于以上诸式中的未知量 ，可用其OLS估计量来代替，即： 3.高斯-马尔柯夫定理 在满足古典线性回归模型假设的前提下，多元线性回归模型中参数的估计量依然是总体回归模型参数的最优线性无偏估计量（BLUE）。 ;例子：古董钟拍卖（第二章P32）;古董钟拍卖一例的回归结果;古董钟拍卖一例的样本回归函数如下：;三、多元回归拟合优度的判定：多元判定系数 　对于多元线性回归模型来说，也有如下等式的成立： 与双变量模型相同，决定系数　 定义为： ;四、多元回归的假设检验 　在随机误差项服从正态分布以及多元回归的其他基本假定的情况下，可以证明　、　、　均服从均值分别为 、 　和　，方差分别为 、 、 的正态分布。 1.回归系数的显著性检验。 例如：针对 的原假设和备择假设为：　　　　　　　　　　　　　　　 进行假设检验的检验统计量为： ;显著性检验法 1.对于假设 2.计算t值 3.根据显著性水平 计算临界值并得到拒绝域 4.比较t值和拒绝域并作出判断 置信区间法 由于多元线性回归模型截距和系数的检验统计量为t统计量，即： 所以可以得到一个该参数的置信度为 的置信区间： 满足：;对比参数的置信区间和零假设值，如果置信区间包含零假设值，则不能拒绝零假设，否则，拒绝零假设。 2.检验联合假设： 对于一个多元线性回归模型来说，一个或多个解释变量各自对应变量没有影响，但却有可能联合对应变量有影响。所以有必要对这些变量的系数作联合的假设检验，即检验假设： 或 以上检验称为多元回归的总体显著性检验。 如何检验呢？可以采用方差分析的公式： 　 ;对于TSS、RSS、ESS来说，其自由度分别为：;在满足CLRM基本假定，在零假设： 下 可以证明变量 服从分子自由度为k-1，分母自由度为n-k的F分布，即： 对于三变量线性回归模型来说，则有：;F检验的理论原理是：如果Y由回归解释的部分（即由X2和X3解释的部分）比未