03.第三章计量经济学.ppt

Economics 20 - Prof. Anderson 多元回归模型 y = b0 + b1x1 + b2x2 + . . . bkxk + u 1. 估计 与简单回归的类似性 b0 仍然为截距 b1到 bk 都被称为斜率参数 u 仍然为误差项 (或扰动项) 仍然需要做一个零条件均值假定, 因此现在假定 E(u|x1,x2, …,xk) = 0 仍然要最小化残差平方和, 因此有 k+1 个一阶条件 解释多元回归 一种“偏掉”解释 “偏掉” 解释，续 前面的等式暗含 y 对 x1 和 x2 的回归对x1的效应与 y 对来自 x1 对 x2的一个回归的残差的回归对x1的效应相同 这只是指xi1 与xi2无关的那部分正在与 yi相关，因此我们在 x2已经被 “偏掉”后估计x1对y的影响 简单回归和多元回归估计值的比较 拟合优度 (续) 关于R平方的更多内容 当另一个自变量被增加到一个回归中的时候，R2决不会减小而且通常将增大 因为R2通常将随着自变量数量的增加而增大, 所以比较简单回归模型和多元回归模型不是一个好方法 太多或太少的变量 如果我们的模型设定包括不属于它的变量，会出现什么样的情况? 这样做对参数的估计值没有影响而且普通最小二乘估计值保持无偏性 如果我们从我们的模型设定中去掉属于它的一个变量，会出现什么样的情况? 这样做通常会将使普通最小二乘估计值变成有偏的 遗漏变量偏误 遗漏变量偏误 (续) 遗漏变量偏误 (续) 遗漏变量偏误 (续) 偏误方向的总结 遗漏变量偏误小结 偏误等于0的两种情形 b2 = 0, 即 x2实际不归入模型 在样本中x1 和x2 无关 如果 x2 , x1之间的相关性和 x2 , y之间的相关性是同一个方向的, 那么偏误将为正的 如果 x2 , x1之间的相关性和 x2 , y 之间的相关性是相反方向的, 那么偏误将为负的 更一般的情形 从技术上讲,如果所有包含的 x都是无关的，那么我们就能指出偏误的更一般的情形 于是,代表性地来讲，假定x都不相关, 即使这个假定不能严格地满足，它也能作为一个有用的指导使我们算出偏误 普通最小二乘估计量的方差(续) 令x代表 (x1, x2,…xk) 假定Var(u|x) = s2 同时暗含Var(y| x) = s2 无偏性的四个假定加上这个同方差性假定一起被认为是高斯-马尔科夫假定 普通最小二乘估计量的方差(续) 普通最小二乘估计量方差的组成 误差方差:一个较大的 s2意味着一个较大的普通二乘估计量方差 样本变化和:一个较大的SSTj意味着一个较小的估计量方差 自变量之间的线性关系:一个较大的 Rj2 意味着一个较大的估计量方差 误设模型 误设模型 (续) 虽然对于误设模型来说估计量的方差较小, 但是误设模型是有偏的，除非b2 = 0 随着样本容量的增大，每个估计量的方差渐渐缩小到零, 这使得方差差异并不重要 误差方差的估计值 (续) df = n – (k + 1)或 df = n – k – 1 df (自由度) 为观测值的数量减去被估计的参数的数量 高斯-马尔科夫定理 在五个高斯-马尔科夫假定下，普通最小二乘估计量被显示为最优线性无偏估计量 最优 线性 无偏 估计量 因此, 如果假定有效的话，我们就可以使用普通最小二乘估计量 * * y =β0 +β1 x1 +β2 x2 +…+βk xk ，因此 ⊿y =⊿β1 x1 + ⊿β2 x2 +…+ ⊿βk xk 于是我们保持x2 ,…,xk 固定不变暗含 ⊿y = ⊿β1 x1,即每一个β均有一个其余条 件不变的解释 ^ ^ ^ ^ ^ ^ ^ ^ ^ ^ ^ 我们来考虑k=2的情形,即 y = β0 +β1 x1 +β2 x2 于是β1 = (∑ri1 y i )/ ∑ri12 其中ri1是从回归估计x1= γ0 +γ2 x2中得到 的残差 ^ ^ ^ ^ ^ ^ ^ ^ ^ ^ ^ 我们将简单回归y =β0 +β1 x1 与多元回归y =β0 +β1 x1 +β2 x2 相比较 通常β1 ≠β1 除非: β2 =0 (即x2 对y 没有局部效应)或者 在样本中x1与x2无关 ^ ^ ^ ^ ～ ～ ～ ～ ^ ^ 拟合优度 我们能将每个观测值看作是由一个被解释的部分 和一个不被解释的部分组成，即yi=yi+ui 于是我们定义下列各项： ∑(yi-y)2是总平方和(SST) ∑(yi-y)2是被解释平方和(SSE) ∑ui2是残差平方和(SSR) 于是有SST= SSE+ SSR ^ ^ － ^ － ^ 拟合优度 (续) 我们如何考虑样本