多元线性回归模型的各种检验方法.docVIP

对多元线性回归模型的各种检验方法 对于形如 （1） 的回归模型，我们可能需要对其实施如下的检验中的一种或几种检验： 对单个总体参数的假设检验：t检验 在这种检验中，我们需要对模型中的某个（总体）参数是否满足虚拟假设：，做出具有统计意义（即带有一定的置信度）的检验，其中为某个给定的已知数。特别是，当=0时，称为参数的（狭义意义上的）显著性检验。如果拒绝，说明解释变量对被解释变量具有显著的线性影响，估计值才敢使用；反之，说明解释变量对被解释变量不具有显著的线性影响，估计值对我们就没有意义。具体检验方法如下： 给定虚拟假设 ：； 计算统计量 的数值； 在给定的显著水平下（不能大于即 10%，也即我们不能在置信度小于90%以下的前提下做结论），查出双尾t（）分布的临界值； 如果出现 的情况，检验结论为拒绝；反之，无法拒绝。 检验方法的关键是统计量 必须服从已知的分布函数。什么情况或条件下才会这样呢？这需要我们建立的模型满足如下的条件（或假定）： 随机抽样性。我们有一个含次观测的随机样。这保证了误差 自身的随机性，即无自相关性，。 条件期望值为0。给定解释变量的任何值，误差 的期望值为零。即有 这也保证了误差独立于解释变量，即模型中的解释变量是外生性的，也使得。 (3） 不存在完全共线性。在样本因而在总体中，没有一个解释变量是常数，解释变量之间也不存在严格的线性关系。 同方差性。。 （5） 正态性。误差满足 。 在以上5个前提下，才可以推导出： 由此可见，检验方法所要求的条件是极为苛刻的。 对参数的一个线性组合的假设的检验 需要检验的虚拟假设为 ：。比如无 法直接检验。设立新参数。 原虚拟假设等价于：。将代入原模型后得出新模型： （2） 在模型（2）中再利用检验方法检验虚拟假设：。 我们甚至还可以检验这样一个更一般的假设 t统计量为 对参数多个线性约束的假设检验：F检验 需要检验的虚拟假设为 ： 。 该假设对模型（1）施加了个排除性约束。模型（1）在该约束下转变为如下的新模型： （3） 模型（1）称为不受约束（ur）的模型，而模型（3）称为受约束（r）的模型。模型（3）也称为模型（1）的嵌套模型，或子模型。分别用OLS方法估计模型（1）和（2）后，可以计算出如下的统计量： 关键在于，不需要满足t检验所需要的假定（3），统计量F就满足：。利用已知的F分布函数，我们就可以拒绝或接受虚拟假设 ：了。所以，一般来讲，F检验比t检验更先使用，用的更普遍，可信度更高。利用关系式，，F统计量还可以写成： 对回归模型整体显著性的检验：F检验 需要检验的虚拟假设为 ：。相当于前一个检验问题的特例，。嵌套模型变为 。，，。F统计量变为： 检验一般的线性约束 需要检验的虚拟假设比如为 ：。受约束模型变为： 再变形为：。F统计量只可用： 其中， 。 检验两个数据集的回归参数是否相等：皱（至庄）检验 虚拟假定是总体回归系数的真值相等。步骤如下： 基于两组样本数据，进行相同设定的回归，将二 者的RSS分别记为和。 （2） 将两组样本数据合并，基于合并的样本数据，进行相同设定的回归，将回归的RSS记为。 计算下面的F统计量： （4） 如果，拒绝原假定。 非正态假定下多个线性约束的大样本假设检验：LM（拉格郎日乘数）检验 F检验方法需要模型（1）中的满足正态性假定。 在不满足正态性假定时，在大样本条件下，可以使用LM统计量。虚拟假设依然是：。LM统计量仅要求对受约束模型的估计。具体步骤如下： （ⅰ）将对施加限制后的解释变量进行回归，并保留残差。即我们要进行了如下的回归估计 （ⅱ）将对所有解释变量进行辅助回归，即进行如下回归估计 并得到R-平方，记为。 （ⅲ）计算统计量 。 （ⅳ）将与分布中适当的临界值比较。如果，就拒绝虚拟假设；否则，就不能拒绝虚拟假设。 对模型函数形式误设问题的一般检验：RESET 如果一个多元回归模型没有正确地解释被解释变量与所观察到的解释变量之间的关系，那它就存在函数形式误设的问题。误设可以表现为两种形式：模型中遗漏了对被解释变量有系统性影响的解释变量；错误地设定了一个模型的函数形式。在侦察一般的函数形式误设方面，拉姆齐（Ramsey，1969）的回归设定误差检验（regression specilfication error test , RESET）是一种常用的方法。RESET背后的思想相当简单。如果原模型（1）满足经典假定（3），那么在模型（1）中添加解释变量的非线性关系应该是不显著的。尽管这样做通常能侦察出函数形式误设，但如果原模型中有许