(第二章：双变量线性回归分析.docVIP

[计量经济学] 第二章：双变量线性回归分析 §1 经典正态线性回归模型（CNLRM） 一些基本概念 一个例子 X Y 80 100 120 140 160 180 200 220 240 260 55 65 79 80 102 110 120 135 137 150 60 70 84 93 107 115 136 137 145 152 65 74 90 95 110 120 140 140 155 175 70 80 94 103 116 130 144 152 165 178 75 85 98 108 118 135 145 157 175 180 － 88 － 113 125 140 － 160 189 185 － － － 115 － － － 162 － 191 总计 325 462 445 707 678 750 685 1043 966 1211 条件分布：以X取定值为条件的Y的条件分布 条件概率：给定X的Y的概率，记为P(Y|X)。 例如，P(Y=55|X=80)=1/5；P（Y=150|X=260）=1/7。 条件期望（conditional Expectation）：给定X的Y的期望值，记为E(Y|X)。 例如，E(Y|X=80)=55×1/5＋60×1/5＋65×1/5＋70×1/5＋75×1/5＝65 总体回归曲线（Popular Regression Curve）（总体回归曲线的几何意义）：当解释变量给定值时因变量的条件期望值的轨迹。 总体回归函数（PRF） E(Y|Xi)=f(Xi) 当PRF的函数形式为线性函数，则有， E(Y|Xi)=?1+?2Xi 其中?1和?2为未知而固定的参数，称为回归系数。?1和?2也分别称为截距和斜率系数。 上述方程也称为线性总体回归函数。 PRF的随机设定 将个别的YI围绕其期望值的离差(Deviation)表述如下： ui=Yi-E(Y|Xi) 或Yi=E(Y|Xi)+ui PRF：Yi=?1+?2Xi+ui=E(Y|Xi)+ui 其中ui是一个不可观测的可正可负的随机变量，称为随机扰动项或随机误差项。 “线性”的含义 “线性”可作两种解释：对变量为线性，对参数为线性。本课“线性”回归一词总是指对参数?为线性的一种回归（即参数只以它的1次方出现）。 模型对参数为线性？ 模型对变量为线性？ 是 不是 是 LRM LRM 不是 NLRM NLRM 注：LRM＝线性回归模型；NLRM＝非线性回归模型。 随机干扰项的意义 随机扰动项是从模型中省略下来的而又集体地影响着Y的全部变量的替代物。显然的问题是：为什么不把这些变量明显地引进到模型中来？换句话说，为什么不构造一个含有尽可能多个变量的复回归模型呢？理由是多方面的： 理论的含糊性 数据的欠缺 核心变量与周边变量 内在随机性 替代变量 省略原则 错误的函数形式 样本回归函数（SRF） （1）样本回归函数 =+ 其中＝E(Y|Xi)的估计量；＝的估计量；＝的估计量。 估计量（Estimator）：一个估计量又称统计量，是指一个规则、公式或方法，是用已知的样本所提供的信息去估计总体参数。在应用中，由估计量算出的数值称为估计值。 样本回归函数的随机形式为： SRF：=+＋=+ 其中表示（样本）残差项（residual）。 （2）样本回归线的几何意义 经典线性回归模型（CLRM）的基本假定： 假定1：干扰项的均值为零。即，E(ui|Xi)=0 假定2：同方差性或ui的方差相等。即，Var(ui|Xi)=?2 假定3：各个干扰项无自相关。即，Cov(ui,uj|Xi,Xj)=0 假定4：ui和Xi的协方差为零。即，Cov(ui,Xi)=E(uiXi)=0 假定5：在重复抽样中X的值是固定的（非随机） §2 估计问题（?和?2） 普通最小二乘法 1、问题： PRF：Yi=?1+?2Xi+ui SRF：=+＋=+ =-=-(+) minf(,)=min?2=min?[-(+)]2 2、正规方程（Normal equation） 由=0，以及=0得到的方程组称为正规方程。即， ?=n+? ?=?+?2 ?的估计 1、公式： 解上述正规方程组得到和估计值： 其中和是X和Y的样本均值。 定义离差：=-，=-。用小写字母表示对均值的离差。 2、对OLS估计量的说明 (1）OLS估计量可由观测值计算； (2) OLS估计量是点估计量； (3)一旦从样本数据得到OLS估计值，就可画出样本回归线。 3、样本回归线的性质： 通过Y和X的样本均值：＝＋； 估计的Y的均值等于实际的Y的均值：=； 残差的均值为零：E()=0