多元线性回归模型常见问题及解决方法.ppt

多元线性回归模型 基本假设 (1)随机扰动项ui数学期望（均值）为零。E(ui)=0 (2)随机扰动项ui的同方差性且无自相关Var(ui)=σ2 (3)解释变量X列线性无关。R(Xn×k)=K (4)随机扰动项ui与解释变量X不相关。cov(ui,X)=0 异方差性的定义 对于线性回归模型 同方差性假设为 如果出现 即对于不同的样本点，随机误差项的方差不再是常数，而是互不相同，则认为出现了异方差性(Heteroscedasticity)。 实际经济问题中的异方差性 （1）研究居民家庭的储蓄行为 Yi=β0+β1Xi+ui Y-储蓄额 X-可支配收入 ui的方差单调递增 （2）居民消费函数 Ci=β0+β1Yi+ui 将居民收入等距离分成n组，取组平均数作为样本观测值。 Y服从正态分布。人数多的组平均数误差小。 样本观测值的观测误差随解释变量观测值改变。 异方差性的检验 异方差性，即相对于不同的样本点，也就是相对于不同的解释变量观测值，随机误差项具有不同的方差。 检验异方差性，就是检验随机误差项的方差与解释变量观测值之间的相关性。 问题在于随机误差项的方差如何估计？ 一般处理方法是先采用普通最小二乘法估计模型，得到随机误差项的估计量，用 表示，称为近似估计量。即 检验方法 （1）图示检验法—大概判断 （2）帕克检验与戈里瑟检验 （3）GQ检验 （4）怀特检验 怀特(White)检验 以两个解释变量的回归模型为例，说明怀特检验的基本思想与步骤。 设回归模型为 Yi=β0+β1X1i+β2X2i+μi 先对模型作普通最小二乘回归，得到 ，然后作辅助回归： 在同方差性假设下，辅助回归的可决系数R2与样本容量n的乘积，渐进地服从自由度为辅助回归方程中解释变量个数的χ2分布，即 nR2~χ2 在大样本下，对统计量nR2进行相应的χ2检验。 若存在异方差性，表明 与解释变量的某种组合有显著的相关性，这时往往有较大的可决系数R2，并且某一参数的t检验值较大。 加权最小二乘法(WLS) 加权最小二乘法(Weighted Least Squares, WLS)是对原模型加权，使之变成一个新的不存在异方差性的模型，然后采用普通最小二乘法估计其参数。 加权的基本思想：在采用普通最小二乘法时，对较小的残差平方赋予较大的权数，对较大的赋予较小的权数，从而对残差提供的信息的重要程度作校正，提高参数估计的精度。 加权最小二乘法就是对加了权重的残差平方和实施普通最小二乘法。 记wi为权数，则加了权重的残差平方和为 如在异方差检验过程中已知 即随机误差项的方差 与解释变量Xji之间存在相关性。 可以用 去除原模型，使之变为如下形式新模型： 在新模型中， 即满足同方差性，可用普通最小二乘法估计其参数，得到参数β0,β1,…,βk的无偏、有效估计量。 上述即为加权最小二乘法，其中权数为 。 普通最小二乘法只是加权最小二乘法中权数恒取1的一种特例，加权最小二乘法具有比普通最小二乘法更普遍的意义。 加权最小二乘法也称为广义最小二乘法(Generalized Least Squares, GLS)。 加权最小二乘法的关键是寻找适当的权，或者说是寻找随机误差项μ的方差与解释变量之间适当的函数形式。如发现 则加权最小二乘法中的权即为 。 序列相关性的定义 对于线性回归模型 在其他假设仍成立的条件下，随机误差项序列相关即Cov(μi,μj)=E(μiμj)≠0 序列相关性经常出现在以时间序列为样本的模型里。自相关现象是指一个变量前后期数值之间存在的相关关系。μt=ρμt-1+εt 序列相关性产生的原因 经济变量故有的惯性（物价指数，消费） 模型设定的偏误 数据的编造 （由已知数据生成） (一)经济变量故有的惯性 消费函数模型： 消费习惯没有包括在解释变量中，其对消费的影响包含在随机误差项中，产生序列相关性。 (二)模型设定的偏误 模型设定偏误指所设定的模型不正确，表现为遗漏了重要解释变量或模型函数形式有偏误。 如应估计模型 但将模型设定为 序列相关性的检验 序列相关性检验的思路：首先采用普通最小二乘法估计模型，以求得随机误差项的近似估计量，用 表示： 然后通过分析这些近似估计量之间的相关性，以达到判断随机误差项是否具有序列相关性的目的。 序列相关性的检验方法有：回归检验法、D.W.检验法、冯诺曼比检验法等。 回归检验法 以 为被解释变量，以各种可能的相关量，如