第二节_回归模型的参数估计.pptVIP

第二节 回归模型的参数估计 一、最小二乘估计（Ordinary Least Square——OLS） 对回归模型: y＝ a＋bxi＋εi 及给定一组样本观测值（Xi, Yi）（i=1,2,…n）要求样本回归函数尽可能好地拟合这组值. 例1. 我国税收预测模型。表2-3列出了我国1985～1998年期间税收收入Y和国内生产总值 X的统计资料（时间序列数据），试利用EViews软件建立一元线性回归模型。 （1）建立工作文件： 图 2-3 工作文件对话框 在EViews软件的命令窗口中直接键入CREATE命令，也可以建立工作文件；命令格式为： CREATE 时间频率类型 起始期 终止期 例如：CREATE A 85 98 （3）估计回归模型： 在EViews软件的命令窗口中，也可以直接键入LS命令来估计模型。命令格式为： LS 被解释变量 C 解释变量 其中，C表示常数项；例如： LS Y C X 表2-5 我国城镇居民家庭1998年收支情况 一、练习题： 1、如何理解OLS估计。 2、如何利用OLS法估计多元线性回归模型参数，写出推导过程。 3、下次上机练习本节例题1、2、3。熟悉和掌握Eviews软件的使用。 四、 最小二乘估计的性质 （3）一致性：这是估计量的一个大样本性质，如果随着样本容量的增加，估计量 越来越接近于真值，则称 为β的一致估计。严格地说， 是依概率收敛于β,即： 其中δ为一个任意小的正数。 2、高斯—马尔可夫定理 在古典回归模型的若干假定成立的情况下，最小二乘估计是所有线性无偏估计量中的有效估计量。 这就是著名的高斯—马尔可夫定理，它表明：最小二乘估计与用其它方法得到的任何线性无偏估计量相比，具有方差最小的特性。所以称OLS估计为“最佳线性无偏估计量”（Best Linear Unbiased Estimator— BLUE），这也是最小二乘估计被广泛使用的原因之一。 现仅就一元线性回归模型给出高斯—马尔可夫定理的证明。 （2）无偏性 （3）有效性（最小方差性） 则应有 而且等号只有当时ci=ki才能成立；也就是说，对于b的任意一个线性无偏估计量，其方差均大于最小二乘估计的方差。同理可以证得 的有效性。 三 . 系数的估计误差与置信区间 1、OLS估计的概率分布(茆诗松定理 7.4.1): 四.多元线性回归模型的参数估计 1.对于多元线性回归模型 五、参数估计的最大似然法(ML) 最大似然法(Maximum Likelihood,简称ML，也称最大似然法，是不同于最小二乘法的另一种参数估计方法，是从最大似然原理出发发展起来的其它估计方法的基础。 参数估计量的平均误差为： 来估计 ， 其中涉及到随机误差项的 方差 ，这个值通常并不知道，实际计算中一般采用 的无偏估计量： 、又称为系数的标准误差（或标准差）。 EViews软件在估计回归模型时，将同时输出系数的估计值和标准差。 需要指出的是，系数的标准误差只是反映了估计量与真值的相对偏离程度； 越小，则 与b的近似误差越小。 并且用符号 表示系数 的估计误差： 同理 的估计误差为： 假设检验可以通过一次抽样的结果检验总体参数可能的假设值的范围（如是否为零），但它并没有指出在一次抽样中样本参数值到底离总体参数的真值有多“近”。 要判断样本参数的估计值在多大程度上可以“近似”地替代总体参数的真值，往往需要通过构造一个以样本参数的估计值为中心的“区间”，来考察它以多大的可能性（概率）包含着真实的参数值。这种方法就是参数检验的置信区间估计。 3．系数的置信区间 如果存在这样一个区间，称之为置信区间（confidence interval）； 1-?称为置信系数（置信度）（confidence coefficient）， ?称为显著性水平（level of significance）；置信区间的端点称为置信限（confidence limit）或临界值（critical values）。 一元线性模型中，?i (i=1，2）的置信区间: 在变量的显著性检验中已经知道： 意味着，如果给定置信度（1-?），从分布表中查得自由度为(n-2)的临界值，那么t值处在(-t?/2, t?/2)的概率是(1-? )。表示为： 即 于是得到:(1-?)的置信度下, ?i的置信区间是 例如在收入-消费支出例题中， 经过计算得: 如果给定? =0.01，查表得： 于是，?1、?0的置信区间分别为：