第04章 多元回归分析1.pptVIP

多元线性回归分析 程建华 * 4.8　检验联合假设：B2＝B3＝0或R2＝0 根据式(4.31)计算F值，并在所选显著水平（犯第一类错误的概率）将其与临界F值（分子自由度为2，分母自由度为n－3）进行比较。如果计算的F值超过临界F值，则拒绝零假设，即所有解释变量不能同时为零。如果F值不超过临界F值，则不能拒绝零假设，即解释变量对因变量无任何影响。 (4.31) 4.8　检验联合假设－F与R2之间的关系 判定系数R2与方差分析中用到的F值之间有如下重要关系： (4.32) 其中n为观察值的个数，k为包含截距在内的解释变量的个数。 式(4.32)表明了F与R2之间的关系。当R2＝0（因变量与解释变量无关）时，F＝0；R2值越大，F值越大。当R2取其极限值1时，F值趋于无穷大。 4.8　检验联合假设－F与R2之间的关系 前面讨论过的F检验（用于度量总体回归直线的显著性）也可用于检验R2的显著性—即R2是否显著不为零。即式(4.28)与式(4.32)是等价的。 用R2的形式进行F检验的一个优点是便于计算，仅需知道R2值即可。 (4.32) H0：B2＝B3＝0 (4.28) 4.8　检验联合假设－R2形式的方差分析表 R2形式的方差分析表 n-1 总计TSS n-3 来自残差RSS 2 来自回归ESS MSS＝ss/d.f 自由度 平方和 变异来源 注：MSS＝平方和的均值 4.9　从多元回归模型到一元回归模型－设定误差 如果从多元模型中删除个变量，会导致模型的设定偏差（specification bias）或设定误差（specification error）。更具体的说，导致了模型中遗漏相关变量的设定误差。 注意：在研究的模型中，尽可能考虑合理的因素，不可轻易简化模型。 4.10 比较两个R2值：校正的判定系数 从例4 .1看到一元回归模型的R2值比多元回归模型的R2值小，是偶然还是必然？ 回答是：判定系数R2的一个重要性质就是模型中解释变量的个数越多，R2值就越大看来要用更大的比例解释因变量的变异，仅仅需要不断增加解释变量的个数就可以了。 但是，在R2＝ESS/TSS并没有考虑到自由度。在有k个变量的模型中（包括截距），ESS自由度为（k－1）。因此，如果模型中有5个解释变量，则ESS自由度为4。 4.10 比较两个R2值：修正的判定系数 为此，需要调整拟合优度的度量指标，它应能根据模型中解释变量的个数进行调整。修正的判定系数R2以符号 表示。 (4.33) 修正的判定系数 有如下性质： 如果k 1，则 。即随着模型中解释变量个数增加，修正判定系数 越来越小于未修正判定系数R2，这似乎是对增加解释变量的“惩罚”。 虽然未修正判定系数R2总为正，但修正判定系数 可能为负。 4.11 如何修正模型？ 在实际工作中，为了解释某个现象，往往面临着在若干解释变量间进行取舍的问题。通常的做法是：只要修正的判定系数 增加，就可以增加新的解释变量。 但是什么时候 值开始增加呢？可以证明：如果增加变量系数的| t |值大于1， 就会增加，这里的t值是在零假设：总体系数为零下计算得到的。 4.11 如何修正模型？ PRICE = 807.9501＋54.57*BIDDER se = (231.09) (23.266) t =(3.4962) (2.3456) R2=0.15497 p =(0.0015) (0.0258) 当做拍卖价格对常数项和竞标人数回归时，竞标人数的t值为2.3456。如果把这个t值平方，得（2.3456）2=5.501 由于t值大于1，且R2与其修正判定系数都增加了，计算得t值也是显著的，表明竞标人数应该纳入模型。 总结 从逻辑基础上看，多元回归模型是一元回归模型的推广，理论基础与研究问题的方法基本相同，但多元回归与一元回归还是有很大差别。 相同点：（1）回归系数都是用OLS方法计算；（2）在扰动项服从均值为0，方差为σ2的正态分布假定下，每个估计系数都服从正态分布；（3）每个多元回归系数服从自由度为n－k的t分布，可用t分布进行检验。 不同点：（1）联合假设检验需要用F检验；（2）利用t检验和F检验决定什么时候在模型中增加新变量。 计量经