第二章 回归分析与模型设定(高级计量经济学-清华大学 潘文清).pptVIP

第二章 回归分析与模型设定 General Regression Analysis and Model Specification 回归分析（Regression Analysis）:一种最常用的统计分析工具，用来分析一个变量关于其他变量的依赖关系。 X 与 Y间的回归关系可用来研究X对Y的影响，或用X来预测Y。 但我们往往只能得到样本数据。因此自然想到用样本均值来估计总体均值， 并寻找样本回归函数 (SRF): mY|x=f(X) The conditional mean of Y given X=xi is 同样地,如果可获得总体数据，我们就可得到给出X值时Y的总体条件均值 (population conditional means ) ?(xi,yi) =joint frequencies of the population ?(xi)=?j ?(xi,yi) =marginal frequencies of X ?(yj|xi)=?(xi,yi)/?(xi) =conditional frequencies of Y given X ?X= ?i xi?(xi) =population mean of X ?Y|X= ?j yi?(yj|xi) =population conditional mean of Y given X Question: how to get f(x)? 如果经济理论表明: ?Y|x=?+?X 但表2.1显示 mY|X 并非一条直线 - 我们是保持 mY|X 的原样呢? 还是对样本的 mY|X通过一条直线来平滑: m*Y|X=a+bX 二、条件分布 假设(X,Y)的联合概率密度函数( joint probability density function , pdf) 为 f(x,y) ，则 X的边际密度函数(marginal pdf ): fX(x) =?f(x,y)dy Y在 X=x 的条件密度函数( conditional pdf ): fY|X(y|x)=f(x,y)/fX(x) 已知条件 pdf, 可计算: 条件期望(The conditional mean) §2.2 回归分析Regression Analysis What statistical properties does E(Y|X) process? E[E(Y|X)] =P(X=1)·E(Y|X=1)+P(X=0)·E(Y|X=0) = 全体平均工资 =E(Y) 定义 [MSE]: The mean square error of function g(X) used to pridict Y is defined as MSE(g)=E[Y-g(X)]2 记 g0(X)=E(Y|X) 则 MSE(g)=E[Y-g(X)]2 =E[Y-g0(X) + g0(X)-g(X)]2 =E[Y-g0(X)]2 + E[g0(X)-g(X)]2 +2E{[Y-g0(X)][g0(X)-g(X)]} = E[Y-g0(X)]2 + E[g0(X)-g(X)]2 = 方差 + 偏误2 方差测度了Y对其期望真实误差( true error)。 偏误2?0，且 g(X)=g0(X)时等号成立. 因此，选择 g(X)=E(Y|X) 可使 MSE(g)达到极小。 Theorem [Regression Identity]: 给定 E(Y|X), 总有如下等价式： Y = E(Y|X)+? ? = Y-E(Y|X)这里 ?称为回归扰动项(regression disturbance)且满足 E(?|X)=0 证明: 定义 ? = Y-E(Y|X)，则 E(?|X)=E{[Y-E