第三章 一元线性回归模型.docVIP

第三章 一元线性回归模型 一、预备知识 （一）相关概念 对于一个双变量总体,若由基础理论，变量和变量之间存在因果关系，或的变异可用来解释的变异。为检验两变量间因果关系是否存在、度量自变量对因变量影响的强弱与显著性以及利用解释变量去预测因变量，引入一元回归分析这一工具。 将给定条件下的均值 （3.1） 定义为总体回归函数（Population Regression Function,PRF）。定义为误差项（error term）,记为，即，这样，或 （3.2） （3.2）式称为总体回归模型或者随机总体回归函数。其中，称为解释变量（explanatory variable）或自变量（independent variable）；称为被解释变量（explained variable）或因变量（dependent variable）；误差项解释了因变量的变动中不能完全被自变量所解释的部分。误差项的构成包括以下四个部分： （1）未纳入模型变量的影响 （2）数据的测量误差 （3）基础理论方程具有与回归方程不同的函数形式，比如自变量与因变量之间可能是非线性关系 （4）纯随机和不可预料的事件。 在总体回归模型（3.2）中参数是未知的，是不可观察的，统计计量分析的目标之一就是估计模型的未知参数。给定一组随机样本，对（3.1）式进行估计，若的估计量分别记为，则定义3.3式为样本回归函数 （） （3.3） 注意，样本回归函数随着样本的不同而不同，也就是说是随机变量，它们的随机性是由于的随机性（同一个可能对应不同的）与的变异共同引起的。定义为残差项（residual term）,记为，即，这样，或 （） （3.4） （3.4）式称为样本回归模型或者随机样本回归函数。样本回归模型中残差项可视为总体回归模型中误差项的估计量。 （二）参数估计：普通最小二乘法 如何估计总体参数的估计量，或如何获得样本回归函数呢？在回归分析中，使用最广泛的方法是最小二乘法，一般称为普通最小二乘法（Ordinary Least Squares,OLS）。OLS求解未知参数的估计量，使残差平方和最小。即 （3.5） 求解（3.5）式可得 ， （3.6） 其中，，。 （三）古典线性回归模型 统计推断除了包括参数估计外还包括假设检验，在根据样本回归函数检验假设时，需要对误差项的生成过程做一些假定。 假定1 回归模型是参数线性的，但可以不是变量线性的。 假定2 解释变量与随机误差项不相关。即 。 如果解释变量是非随机的，则该假设自动满足。 假定3 零均值假定。即 假定4 同方差假定。即 假定5 无自相关假定。即两个误差项之间不相关 假定6 回归模型是正确设定的。 假定7 正态性假定。即 ～ 满足以上假定的回归模型称为古典线性回归模型（Classical Line Regression Model,CLRM）。 （四）高斯-马尔科夫定理 如果古典线性回归模型的基本假定成立，则OLS估计是最优线性无偏估计量（Best Linear Unbiased Estimators,BLUE）。 （五）预测原理 回归分析的目的之一是利用回归模型预测因变量。比如，金融决策经常涉及一个长期的资源承诺（a long-term commitment of resources）, 决策的收益将取决于将来发生的事情。 假设双变量总体的回归模型为（3.2），即 （3.2） 在一组随机样本下，利用OLS求得样本回归函数为（3.3） （） （3.3） 给定样本外一点，则因变量的点预测为 （3.7） 点预测的标准误为 （3.8） 因变量的置信度为的区间预测为 [, ] （3.9） 二、案例 [案例1] 经济形势对人们工作意愿的影响 根据劳动经济学理论，经济形势对人们工作意愿的影响存在两个互相独立