第03章多元线性回归模型.pptVIP

另： 第03章多元线性回归模型 记： 这里，(Cij)是一个（k＋1）阶矩阵，而Cij表示位于矩阵C＝(X’X)-1的第i+1行,第j+1列处的元素，例如，C11表示矩阵内第2行、第2列的元素。 因此： 其中，i,j=0,1,2,…,k 第03章多元线性回归模型 四、高斯－马尔可夫（Gauss-Markov）定理 如果基本假定1－5成立，则最小二乘估计量是β的最优线性无偏估计量（Best Linear Unbiased Estimate,简记BLUE）。 由于在β的最小二乘估计量的方差（ ）中，σ2是未知的，因此可以用σ2无偏估计量S2来代替，这样，有： 第03章多元线性回归模型 §3.4 可决系数 总离差平方和的分解…… 多元样本可决系数（R2）…… 调整的样本可决系数…… 第03章多元线性回归模型 一、总离差平方和的分解 对于多元线性回归模型的情形，一元线性回归模型的总离差平方和的分解公式依然成立。即： SST = SSR+ SSE 其中： ——总离差平方和 ——残差平方和 ——回归平方和 即： 证明： 第03章多元线性回归模型 二、多元样本可决系数 与一元线性回归模型相同： R2＝ ＝ ＝ ＝ 样本可决系数是对样本观测值拟合优度的检验，其取值区间为[0,1],R2的值越趋近于1，被解释变量由解释变量的解释部分越多。表明估计的样本回归方程对样本观测值的拟合程度越好。 第03章多元线性回归模型 三、调整的样本可决系数 R2的一个重要性质是：随着样本解释变量个数的增加， R2的值越来越高，（即R2是解释变量个数的增函数）。也就是说，在样本容量不变的情况，在模型中增加新的解释变量不会改变总离差平方和（SST），但可能增加回归平方和（SSE），减少残差平方和（SSR）,从而可能改变模型的解释功能。 其中： ——随机误差项u的样本方差Su ——被解释变量的Y的样本方差 这样，容易形成一种误解，即要想得到较好的拟合程度，只要增加解释变量即可，因此， R2并不能真实反映回归模型对观测数据的拟合程度。 据此得到调整的R2： 第03章多元线性回归模型 样本可决系数与调整的样本可决系数之间的关系 样本容量（T）一定时，调整的R2具有如下性质： 1、若k≥1，则 2、调整的R2可能出现负值。在这种情况下，我们取其值为0。 注：在实际应用中，不能仅仅根据R2的大小来选择模型。 第03章多元线性回归模型 §3.5 显著性检验与区间估计 回归方程的限制条件检验——F检验 （若干回归系数为0、Chow检验、回归系数线性约束的检验） 回归方程的显著性检验（F检验）…… 回归系数的显著性检验（t检验）…… 回归系数的置信区间…… 第03章多元线性回归模型 一、回归方程的约束条件检验（F检验） 含义：是指在一定的显著性水平下，对总体参数之间是否满足一定的约束条件进行检验，例如若干回归系数为0的检验，不同样本回归系数是否相等的检验，回归系数线性约束的检验等。 给定总体回归模型： y = ?0 +?1x1 + ?2x2 +…+ ?kxk + u ①提出假设： H0: 参数满足某个约束条件 H1: 参数不满足该约束条件 ②估计两个回归模型，首先，对不加约束条件(unrestricted)的回归模型进行估计，得到无约束的残差平方和SSRu；然后，对施加了约束的模型进行估计，得到有约束（restricted）的残差平方和SSRr。在此基础上，计算F统计量： 其中，q表示模型中约束条件的个数。 第03章多元线性回归模型 ③给定显著性水平α，查找临界值进行判断： 若：FFα,不能拒绝原假设H0，认为约束条件成立。 FFα,拒绝原假设H0，认为约束条件不成立。 注 ：不同的约束条件，其有约束模型与无约束模型的形式是不同的，在检验 时一定要合理的设定模型形式。 （1）关于若干个回归系数是否为0的检验 H0: β1=β2=…=βq = 0 （共有k≥q） H1: 至少有一个βj (j=1,2,…,q)不等于0 无约束回归模型： 有约束回归模型： 第03章多元线性回归模型 第三章 多元线性