多元线性回归共65页资料.ppt

§ 3.3 多元线性回归模型的统计检验 一、拟合优度检验 二、方程显著性检验 三、变量显著性检验 一、拟合优度检验 ? 目的：测定样本回归函数对样本观测值的拟合紧密程度 ? 指标： R 2 、 Adj(R 2 ) 可决系数 R 2 (coefficient of determination) TSS RSS TSS ESS R ? ? ? 1 2 0R 2 1 ，该统计量越接近于 1 ，模型的拟合优度越高。 1 、定义： 2 、问题： ? 在模型中增加一个解释变量， R 2 往往增大 ? 但是： 增加解释变量个数往往得不偿失， 不重要的变量不应引入。 ? 增加解释变量使得估计参数增加，从而自由度减小。如果引入的变量对减 少残差平方和的作用很小，这将导致误差方差σ 2 的增大，引起模型精度的降 低。 ? 因此： R 2 需调整 。 调整的可决系数 Adj(R 2 ) （ adjusted coefficient of determination ） 1 、调整思路 : 将残差平方和与总离差平方和分别除以各自的自由度，以 剔除变量个数对拟合优度的影响。 ) 1 /( ) 1 /( 1 2 ? ? ? ? ? n TSS k n RSS R 2 、自由度：统计量可自由变化的样本观测值的个数，记为 df TSS ： df ＝ n － 1 ESS ： df ＝ k RSS ： df ＝ n － k － 1 注意： df （ TSS)=df(ESS)+df(RSS) 3 、定义： # Adj(R 2 ) 的作用 1 、消除拟合优度评价中解释变量的多少对拟合优度的影响 2 、对于 因变量 Y 相同，而自变量 X 个数不同 的模型， 不能用 R 2 直接比较 拟合优度，而应 使用 Adj （ R 2 ） 。 3 、可以通过 Adj （ R 2 ） 的增加变化，决定是否引入一个新的解释变量。 1 1 ) 1 ( 1 2 2 ? ? ? ? ? ? k n n R R Adj （ R 2 ） = R 2 ，即：调整可决系数不大于未经调整的可决系数。随着解 释变量的增加，二者的差异越来越大。 # Adj(R 2 ) 与 R 2 的关系 * 赤池信息准则和施瓦茨准则 * (AICSC) ? 用于比较因变量相同，解释变量个数不同的多元回归模型的拟合优度 ※ 赤池信息准则 （ Akaike information criterion, AIC ） n k n AIC ) 1 ( 2 ln ? ? ? ? e e ※ 施瓦茨准则 （ Schwarz criterion ， SC ） n n k n AC ln ln ? ? ? e e ? 这两准则均要求仅当所增加的解释变量能够 减少 AIC 值或 AC 值 时才在原 模型中增加该解释变量。 二、方程的显著性检验（ F 检验） ? 目的：检验 Y 与所有 X 的线性关系在总体上是否成立 ? 方法： F 检验 1 、原假设和备择假设 ? 检验模型中的参数 ? j 是否 至少有一个 显著 不为 0 。 Y i = ? 0 + ? 1 X 1i + ? 2 X 2i + ? + ? k X ki + ? i i=1,2, ? ,n ? 原假设与备择假设： H 0 ： ? 0 = ? 1 = ? 2 = ? = ? k =0 H 1 ： ? j 不全为 0 2 、检验统计量 可以证明，在 原假设 H 0 成立 的条件下： ) 1 /( / ? ? ? k n RSS k ESS F F ～ F ( k , n - k -1) 其中： k 为模型中 解释变量个数 3 、检验步骤 （ 1 ）提出原假设和备择假设： H 0 ： ? 0 = ? 1 = ? 2 = ? = ? k =0 H 1 ： ? j 不全为 0 （ 2 ）在 H 0 成立 的条件下，计算检验统计量的值： ) 1 /( / ? ? ? k n RSS k ESS F （ 3 ）给定显著性水平 ? ，可得到临界值： F ? ( k,n-k- 1) 右侧检验 ? （ 4 ）如果 F ? F ? ( k,n-k- 1) ， 拒绝 原假设，总体线性关系 成立 ? 如果 F ? F ? ( k,n-k- 1) ， 接受 原假设，总体线性关系 不成立 ＃ 拟合优度和方程显著性检验