第二章简单回归sk.ppt

第二章 简单回归 第一节古典回归的含义和假设前提 一，回归的基本含义 回归分析是计量经济学模型中最经常使用的方法之一。回归的概念最早来自于弗朗西斯.加尔顿，他研究了子女身高和父母身高之间的关系，他发现，父母高，孩子也高，反之，父母矮，孩子也矮。但是在，给定父母身高，孩子的平均身高却趋向于回归到全体人口的平均身高，即回归到中等水平。 现代回归分析的定义是关于研究应变量和一个或多个自变量或解释变量之间依赖关系的分析。 相应地，Y和X的称呼如下： （1）应变量（dependent variable） 自变量（independent variable） （2）被解释变量（explained variable） 解释变量(explanatory variable) （3）内生变量（endogenous variable 外生变量 （exogenous variable） （4）目标变量（target variable） 控制变量(control variable) （5）预测子（predictand ） 预测元（ predictor） ? 简单回归分析主要用来描述被解释变量y和解释变量x之间的关系，当解释变量只有一个时，称为简单回归。例如，y = 销售，x = 广告支出 这里我们要确定销售和广告支出之间的关系。 当有多个解释变量时，称为多元回归。 例如，y= 一个家庭的消费支出 x1= 家庭收入 x2= 家庭的金融资产 x3= 家庭规模（大小） 这里需要确定家庭消费支出和家庭收入、家庭的金融资产、及家庭规模之间的关系。 二，古典回归的假设前提 Y和X之间的关系可以描述成 y = f(x)这里我们需要区别关于y和x两类关系： 1，确定的或数学的关系：y=α+βx 2，统计上的关系，即对于给定x值，不存在一个唯一y，但是可以准确地以概率的方式描述。回忆前面提及的计量经济学方法的时候，我们提到统计意义上的描述的含义。 如果y和x之间存在线性关系，则从统计学意义上描述为： y=α+βx+μ 存在一个干扰项μ。 干扰项的用处： 1，对于不可预测的随机性的反应。 2，由于大量被省略的变量的作用。 3，y测量上的误差。 古典回归的假设 对于上述的表达式，我们需要估计参数α和β。为了进行估计，需要对干扰项作出严格的假设， 1，误差分布的均值为零，即对于所有i, E（μi）=0， 2，误差项的方差相同，Var(μi)=σ2 3，误差项相互独立，即Cov(μi,μj)=0 4，所有的xi都是可观察的并且独立于μi, Cov(xi, μ)=0 5，误差服从于正态分布，均值是0，方差是σ2 6，X是非随机的 在上述假设下，我们就可以开始对简单回归模型中的参数进行估计了。 后面随着一些假设的放开，使用传统的最小二乘法将会出现很多问题，例如，放开假设2，将会出现异方差，放开假设3，就是自相关问题。放开假设4，就是联立方程问题。 第二节 参数估计的方法 在简单回归模型中，估计参数α和β的方法主要有： 1，??? 矩法(the method of moments) 2，??? 最小二乘法(the method of least squares) 3，??? 最大似然法(the method of maximum likelihood) 我们将主要介绍前两种方法。? 矩估计法 由对误差的假设表明： E（μi）=0 Cov(xi, μ)=0 上述假设是对应总体而言的。 矩法估计中，则要利用样本来表述上式内容。 关于残差的定义 假设αhat 、β hat分别是α和β 的估计值，样本中的误差项被称为残差，表示为μi hat，定义为 μ hat=yi - αhat - β hat 对应于样本 1/nΣ μi hat=0 Σ μi hat=0 1/nΣxi μi hat =0 Σxi μi hat =0 Σ(yi - αhat - β hat )=0 Σxi(yi - αhat - β hat )=0 利用上面的两个方程我们就可以估计出参数α和 β 例题1 月 销售收入y （千元) 广告支出x(百元） 1 3