第1讲线性回归模型精选.ppt

2、赤池信息准则和施瓦茨准则 为了比较所含解释变量个数不同的多元回归模型的拟合优度，常用的标准还有: 赤池信息准则（Akaike information criterion, AIC） t检验的步骤： 例5，对例1进行t检验 最后的回归模型： 五、预测 （一）点预测 点预测的两种解释： （二）区间预测 例5，在例1中，若X01=10，X02=10，求总体均值 E（Y0|X0）和总体个别值Y0的区间预测。 解释变量的选择 在回归模型中的解释变量，除非有明确的理论指导或其他原因，在选择上具有一定的主观性，如何正确选择解释变量是非常重要的。 1、AIC或SC比较分析 施瓦茨准则（Schwarz criterion，SC） 赤池信息准则（Akaike information criterion, AIC） 其中k表示模型中参数的个数，当所增加的解释变量能够减少AIC值或SC值时才在原模型中增加该解释变量。 2、解释变量的边际贡献分析 在建立回归模型时，假定我们顺序引入变量。在建立了Y与X1的回归模型，并进行回归分析后，再加入X2，考虑加入的变量X2是否有贡献：X2加入后是否显著地提高了回归的解释程度ESS或决定系数R2。ESS提高的量称为变量X2的边际贡献。 决定一个变量是否引入回归模型，就要先研究它的边际贡献，以正确地建立模型。如果变量的边际贡献较小，说明改变量没有必要加入模型。 分析变量的边际贡献，可以使用方差分析表为工具，根据变量引入前、后的RSS的变化量及其显著性检验（扣除原来引入模型的解释变量的贡献），确定该变量的边际贡献是否显著。 一个简单的检验方法，就是对引入新变量后的RSS增量与新的ESS的比值做显著性检验。 可以利用方差分析表来进行分析。 设ESS为引入变量前的回归平方和，ESS’ 为引入m个新变量后，得到的回归平方和，RSS’为引入变量后的残差平方和。 ANOVA表如下： n-1 TSS Q/( n-p-m-1) n-(p+m)-1 Q 添加变量后的RSS’ (U2-U1)/m m (U2-U1) 添加变量的边际贡献 U2/(p+m) p+m U2 引入变量后的ESS’ U1/p p U1 引入变量前的ESS 均方差 自由度 平方和 在新引入变量的系数为0的原假设下， 把计算出的该统计量的值与α 显著水平下的临界值进行比较： 若引入的新变量的边际贡献显著，则应该把这些变量纳入回归模型，否则这些变量不应引入回归模型。 如在例1中Y对X2的回归为： Y对X2和X1的回归为： 结论：X1对Y的边际贡献在5%水平下显著，在1%水平下不显著。 3、逐步回归法 如果根据理论，因变量Y与k个变量X1， X2，X3，…，Xk 有因果关系，我们要建立的回归模型就是要在这些变量中选择正确的解释变量，根据变量的边际贡献大小，把贡献大的变量纳入回归模型。分析边际贡献并选择变量的过程，实际上是一个逐步回归的过程。 首先，分别建立Y与k个变量X1， X2 ，X3，…，Xk 的回归模型： 回归后,得到各回归方程的平方和 选择其中ESS最大并通过F检验的变量作为首选解释变量，假定是X1。此时可确定一个基本的回归方程： 在此基础上进行第二轮回归，在剩下的变量中寻找最佳的变量建立k – 1 个二元回归方程： 选择其中ESS最大并通过F检验的变量作为新增解释变量，假定是X2 。此时可确定一个基本的回归方程： 重复这一过程，直到在所有变量中将边际贡献显著的变量全部引入回归模型为止，得到最终的回归式： 也可以采用逐步减少边际贡献不显著的变量的方式，逐步回归确定回归模型包括的变量，最终的结果是一致的。 多元线性模型的最大似然估计 i=1,2,…,n 结构参数估计结果与OLS估计相同 分布参数估计结果与OLS不同 最大似然估计量的性质 一致性 渐近正态性 渐近有效性 不变性 EViews中的标准正态分布的对数似然函数为: ， 将对数似然函数写成所有观测值 n的对数似然贡献的和的形式： 这