一元线性回归模型的参数估计.doc

PAGE PAGE 32 §2.2 一元线性回归模型的参数估计 单方程计量经济学模型分为线性模型和非线性模型两大类。在线性模型中，变量之间的关系呈线性关系；在非线性模型中，变量之间的关系呈非线性关系。线性回归模型是线性模型的一种，它的数学基础是回归分析，即用回归分析方法建立的线性模型，用以揭示经济现象中的因果关系。 一元线性回归模型是最简单的计量经济学模型，在模型中只有一个解释变量，其一般形式是： i=1,2,…n （2.2.1） 其中，为被解释变量，为解释变量，与为待估参数，为随机干扰项。 一、一元线性回归模型的基本假设 回归分析的主要目的是要通过样本回归函数（模型）SRF尽可能准确地估计总体回归函数（模型）PRF。估计方法有多种，其种最广泛使用的是普通最小二乘法（ordinary least squares, OLS）。 为保证参数估计量具有良好的性质，通常对模型提出若干基本假设。如果实际模型满足这些基本假设，普通最小二乘法就是一种适用的估计方法；如果实际模型不满足这些基本假设，普通最小二乘法就不再适用，而要发展其它方法来估计模型。所以，严格地说，下面的基本假设并不是针对模型的，而是针对普通最小二乘法的。 对模型（2.2.1），基本假设包括对解释变量X的假设，以及对随机扰动项的假设： 　 假设1：解释变量X是确定性变量，不是随机变量，而且在重复抽样中取固定值。 假设2：随机误差项具有０均值、同方差及不序列相关性。即 　　　　 =0 i=1,2,…n = i=1,2,…n 　　　　 =0 i≠j i,j=1,2,…n 假设3：随机误差项与解释变量之间不相关。即 　 　　=0 i=1,2,…n 假设4：随机误差项服从０均值、同方差、零协方差的正态分布。即 　　　 　　 i=1,2,…n 需注意的是，如果假设1、2成立，则假设3成立，因为这时显然有= ；另外，如果假设4成立，则假设2成立，因为对两正态分布变量来说，零协方差就意味着两变量相互独立。 以上假设也称为线性回归模型的经典假设或高斯（Gauss）假设，满足该假设的线性回归模型，也称为经典线性回归模型（Classical Linear Regression Model, CLRM）。 另外，在进行模型回归时，还有两个暗含的假设： 假设5：随着样本容量的无限增加，解释变量X的样本方差趋于一有限常数。即 假设6：回归模型是正确设定的。 假设5旨在排除时间序列数据出现持续上升或下降的变量作为解释变量，因为这类数据不仅使大样本统计推断变得无效，而且往往产生所谓的伪回归问题（spurious regression problem）。关于伪回归的确切含义将在第九章中讨论。假设6也被称为模型没有设定偏误（specification error），它的确切含义将在第五章中讨论。 在实际建立模型的过程中，除了随机误差项的正态假设外，对模型是否满足其他假设都要进行检验。这就是“建立计量经济学模型步骤”中“计量经济学检验”的任务。对于随机误差项的正态假设，根据中心极限定理，当样本容量趋于无穷大时，都是满足的。 二、参数的普通最小二乘估计（OLS） 已知一组样本观测值（），（i=1,2,…n），要求样本回归函数尽可能好地拟合这组值，即样本回归线上的点与真实观测点的“总体误差”尽可能地小，或者说被解释变量的估计值与观测值应该在总体上最为接近，最小二乘法（Ordinary least squares, OLS）给出的判断标准是：二者之差的平方和 = （2.2.2） 最小。即在给定样本观测值之下，选择出、能使与之差的平方和最小。 为什么用平方和？因为样本回归线上的点与真实观测点之差可正可负，简单求和可能将很大的误差抵消掉，只有平方和才能反映二者在总体上的接近程度。这就是最小二乘原理。 根据微积分学的运算，当对、的一阶偏导数为0时，达到最小。即 可推得用于估计、的下列方程组： (2.2.3） 或 (2.2.4) 解得： (2.2.5） 方程组（2.2.3）或（2