应用统计第十讲：违背基本假设的回归.pptVIP

应用统计第十讲：违背基本假设的回归 国际商学院 统计系 讲授：杨震宁 违背基本假设的回归分析 简单线性回归模型（总体） 总体线性回归模型的图示 回归系数(regression coefficient) 利用历史数据得到 和 的估计值 b0 和 b1，称为回归系数。 因变量的估计值或预测值为： 以某种方法选择 b0 和 b1以使产生的直线与观测数据(x1, y1), …, (xn, yn)拟合的“最好”。 求回归系数用到的标准:最小二乘法 残差绝对值和最小： 残差平方和最小： 求极值使残差平方和最小，得到参数估计值。 拟合样本线性回归方程的方法----最小二乘法 普通最小二乘法进行估计的条件 假设1： 是一个随机变量，服从正态分布； 假设2： 的期望值等于0； 假设3： 的方差都是相等的； 假设4：取不同的自变量得到的 相互独立。 这些条件使模型估计保持无偏、有效和一致性。 假设1违背对OLS估计的影响 假设1： 是一个随机变量，服从正态分布。 若 的分布是非正态分布，则我们无法利用t检验和F检验进行回归系数假设检验和总检验； 请回顾回归系数检验与总检验； 规避方法：实际中应尽量扩大样本量，则可以规避假设1的影响，SPSS默认t检验。 对多元线性回归模型的总检验 总检验：H0: ?1 = ?2 = . . . = ?K = 0 目的：检验所有的自变量作为一个整体与因变量之间是否存在线性关系 方法：F检验 回归系数检验： H0: ?i = 0 检验每一个自变量是否与因变量之间存在线性关系 方法：t检验 多元回归系数检验 多元回归模型的总检验 假设2违背对OLS估计的影响 假设2： 的期望值等于0。 假设2一般情况下都能满足，即使不能满足，也只是对 的估计有影响，会得到 的一个有偏估计； 无需对假设2进行诊断和修正。 假设3违背对OLS估计的影响 假设3： 的方差都是相等的。 假设3被违背，仍然用OLS进行估计，将引起严重后果，叫做“异方差”性，这样的估计将导致t检验值被低估，可能造成本来应该显著的自变量的回归系数变成不显著； 可使用“加权最小二乘估计”进行模型讨论。 图1 存在异方差直观图 假设3违背对OLS估计的影响 为什么会产生这种异方差性呢？ 一方面是因为随机误差项包括了测量误差和模型中被省略的一些因素对因变量的影响，另一方面来自不同抽样单元的因变量观察值之间可能差别很大。因此，异方差性多出现在横截面样本之中。至于时间序列，则由于因变量观察值来自不同时期的同一样本单元，通常因变量的不同观察值之间的差别不是很大，所以异方差性一般不明显。 异方差的后果 一旦随机误差项违反同方差假设，即具有异方差性，如果仍然用OLS进行参数估计，将会产生什么样的后果呢？ 结论就是，OLS估计量的线性和无偏性都不会受到影响，但不再具备最优性，即在所有线性无偏估计值中我们得出的估计值的方差并非是最小的。 所以，当回归模型中随机项具有异方差性时，OLS法已不再适用。 异方差的检验 由于异方差的存在会导致OLS估计量的最佳性丧失，降低精确度。所以，对所取得的样本数据（尤其是横截面数据）判断是否存在异方差，是我们在进行正确回归分析之前要考虑的事情。异方差的检验主要有图示法和解析法，下面我们将介绍几种常用的检验方法。 图示法 图示法是检验异方差的一种直观方法，通常有下列两种思路： （一）因变量y与解释变量x的散点图：若随着x的增加，图中散点分布的区域逐渐变宽或变窄，或出现了偏离带状区域的复杂变化，则随机项可能出现了异方差。 （二）残差图。残差图即残差平方 （ 的估计值）与x的散点图，或者在有多个解释变量时可作残差 与y的散点图或残差 和可能与异方差有关的x的散点图。具体做法：先在同方差的假设下对原模型应用OLS法，求出和残差平方 ，再绘制残差图（ ， ）。 解析法 检验异方差的解析方法的共同思想是，由于不同的观察值随机误差项具有不同的方差，因此检验异方差的主要问题是判断随机误差项的方差与解释变量之间的相关性，下列这些方法都是围绕这个思路，通过建立不同的模型和验判标准来检验异方差。 （一）Goldfeld-Quandt 检验法 Goldfeld-Quandt 检验法是由S. M. Goldfeld和R. E. Quandt 于1965年提出的。这种检验方法以F检验为基础，适用于大样本情形（n30），并且要求满足条件：观测值的数目至少是参数的二倍；随机项没有自相关并且服从正态分布。 统计假设：零假设 ： 是同方差（i=1,2,…,n）