2018年多元线性回归分析.docVIP

多元线性回归分析 　　§3.3 多元线性回归模型的统计检验 一、拟合优度检验 二、方程的显著性检验(F检验) 三、变量的显著性检验（t检验） 四、参数的置信区间 　　一、拟合优度检验 1、可决系数与调整的可决系数 　　总离差平方和的分解 　　则 　　TSS = Σ(Yi ? Y ) 2 ? ? = Σ((Yi ? Yi ) + (Yi ? Y )) 2 ? ? ? ? = Σ(Yi ? Yi ) 2 + 2Σ(Yi ? Yi )(Yi ? Y ) + Σ(Yi ? Y ) 2 　　由于 　　∑ (Y ? Y? )(Y? ? Y ) = ∑ e (Y? ? Y ) ? ? ? = β ∑e + β ∑e X +L+ β ∑e X 　　i i i i 　　0 i 1 i 1i k i 　　ki 　　+ Y ∑ ei 　　=0 　　所以有： 　　? ) 2 + ∑ (Y ? Y ) 2 = RSS + ESS ? TSS = ∑ (Yi ? Yi i 　　注意：一个有趣的现象 　　(Y ? Y ) = (Y ? Y? ) + (Y? ? Y ) (Y ? Y ) ≠ (Y ? Y? ) + (Y? ? Y ) ∑ (Y ? Y ) = ∑ (Y ? Y? ) + ∑ (Y? ? Y ) 　　i i i i i 2 2 2 i i i 2 2 i i i i 　　2 　　可决系数 　　ESS RSS R = = 1? TSS TSS 　　2 　　该统计量越接近于1，模型的拟合优度越高。 问题： 在应用过程中发现，如果在模型中增加一个解 释变量， R2往往增大（Why?) 这就给人一个错觉：要使得模型拟合得好，只 要增加解释变量即可。 但是，现实情况往往是，由增加解释变量个数 引起的R2的增大与拟合好坏无关，R2需调整。 　　调整的可决系数（adjusted coefficient of determination） 在样本容量一定的情况下，增加解释变量必定 使得自由度减少，所以调整的思路是:将残差平方 和与总离差平方和分别除以各自的自由度，以剔 除变量个数对拟合优度的影响: 　　R 2 = 1? RSS /( n ? k ? 1) TSS /( n ? 1) 　　其中：n-k-1为残差平方和的自由度，n-1为总体平 方和的自由度。 　　n ?1 R = 1 ? (1 ? R ) n ? k ?1 　　2 2 　　*2、赤池信息准则和施瓦茨准则 　　为了比较所含解释变量个数不同的多元回归模型 的拟合优度，常用的标准还有: 赤池信息准则（Akaike information criterion, AIC） e′e 2(k + 1) + AIC = ln n n 施瓦茨准则（Schwarz criterion，SC） 　　e′e k AC = ln + ln n n n 　　这两准则均要求仅当所增加的解释变量能够减少 AIC值或AC值时才在原模型中增加该解释变量。 　　Eviews的估计结果显示： 中国居民消费一元例中： AIC=6.68 AC=6.83 　　中国居民消费二元例中： AIC=7.09 AC=7.19 　　从这点看，可以说前期人均居民消费CONSP(-1)应 包括在模型中。 　　二、方程的显著性检验(F检验) 　　方程的显著性检验，旨在对模型中被解释变 量与解释变量之间的线性关系在总体上是否显著 成立作出推断。 　　1、方程显著性的F检验 　　即检验模型 　　Yi=β0+β1X1i+β2X2i+ … +βkXki+μi i=1,2, …,n 　　中的参数βj是否显著不为0。 可提出如下原假设与备择假设： H0： β0=β1=β2= … =βk=0 H1： βj不全为0 　　F检验的思想来自于总离差平方和的分解式： TSS=ESS+RSS 　　? 由于回归平方和 ESS = ∑ y i2 是解释变量 X 的联合体对被解 　　释变量 Y 的 　　线性作用的结果，考虑比值 　　? ESS / RSS = ∑ y i2 ei2 ∑ 　　如果这个比值较大，则X的联合体对Y的解释程度 高，可认为总体存在线性关系，反之总体上可能不存 在线性关系。 因此,可通过该比值的大小对总体线性关系进行推 断。 　　根据数理统计学中的知识，在原假设H0成立 的条件下，统计量 　　ESS / k F= RSS /(n ? k ? 1) 　　服从自由度为(k , n-k-1)的F分布 给定显著性水平α，可得到临界值Fα(k,n-k1)，由样本求出统计量F的数值，通过 F Fα(k,n-k-1) 或 F≤Fα(k,n-k-1) 　　来拒绝或接受原假设H0，以判定原方程总体上的 线性关系是否显著成立。 　　对于中国居民人均消费支出的例子： 一元模型：F=285.