最小二乘法和线性回归及很好的总结.ppt

*（二）、F检验F检验的第一个用途是对所有的回归系数全为0的零假设的检验。第二个用途是用来检验有关部分回归系数的联合检验，就方法而言，两种用途是完全没有差别的，下面我们将以第二个用途为例，对F检验进行介绍。第62页，课件共92页，创作于2023年2月*为了解联合检验是如何进行的，考虑如下多元回归模型：（2.57）这个模型称为无约束回归模型（unrestrictedregression），因为关于回归系数没有任何限制。第63页，课件共92页，创作于2023年2月*假设我们想检验其中q个回归系数是否同时为零，为此改写公式（2.57），将所有变量分为两组，第一组包含k-q个变量（包括常项），第二组包含q个变量：（2.58）第64页，课件共92页，创作于2023年2月*如果假定所有后q个系数都为零，即建立零假设：，则修正的模型将变为有约束回归模型（restrictedregression）（零系数条件）：（2.59）第65页，课件共92页，创作于2023年2月*需要注意的是：如果残差不服从正态分布，即假设(5)不成立，但只要CLRM的其他假设条件还成立，且样本容量足够大，则通常认为系数估计量还是服从正态分布的。其标准正态分布为：（2.32）（2.33）第30页，课件共92页，创作于2023年2月*但是，总体回归方程中的系数的真实标准差是得不到的，只能得到样本的系数标准差（、）。用样本的标准差去替代总体标准差会产生不确定性，并且、将不再服从正态分布，而服从自由度为T-2的t分布，其中T为样本容量即：~(2.34)~(2.35)第31页，课件共92页，创作于2023年2月*3.正态分布和t分布的关系图2-3正态分布和t分布形状比较第32页，课件共92页，创作于2023年2月*从图形上来看，t分布的尾比较厚，均值处的最大值小于正态分布。随着t分布自由度的增大，其对应临界值显著减小，当自由度趋向于无穷时，t分布就服从标准正态分布了。所以正态分布可以看作是t分布的一个特例。第33页，课件共92页，创作于2023年2月*第二节一元线性回归模型的统计检验一、拟合优度(goodnessoffitstatistics)检验拟合优度可用R2表示：模型所要解释的是y相对于其均值的波动性，即（总平方和，thetotalsumofsquares，简记TSS），这一平方和可以分成两部分：第34页，课件共92页，创作于2023年2月*=+（2.36）是被模型所解释的部分，称为回归平方和（theexplainedsumofsquares，简记ESS）；是不能被模型所解释的残差平方和（RSS）,即=第35页，课件共92页，创作于2023年2月*TSS、ESS、RSS的关系以下图来表示更加直观一些：图2－4TSS、ESS、RSS的关系第36页，课件共92页，创作于2023年2月*拟合优度＝因为TSS=ESS+RSS所以R2＝（2.39）（2.37）（2.38）R2越大，说明回归线拟合程度越好；R2越小，说明回归线拟合程度越差。由上可知，通过考察R2的大小，我们就能粗略地看出回归线的优劣。第37页，课件共92页，创作于2023年2月*但是，R2作为拟合优度的一个衡量标准也存在一些问题：（1）如果模型被重新组合，被解释变量发生了变化，那么R2也将随之改变，因此具有不同被解释变量的模型之间是无法来比较R2的大小的。第38页，课件共92页，创作于2023年2月*（2）增加了一个解释变量以后，R2只会增大而不会减小，除非增加的那个解释变量之前的系数为零，但在通常情况下该系数是不为零的，因此只要增加解释变量，R2就会不断的增大，这样我们就无法判断出这些解释变量是否应该包含在模型中。（3）R2的值经常会很高，达到0.9或更高，所以我们无法判断模型之间到底孰优孰劣。第39页，