计量经济学【一元线性回归模型——参数估计】.pptVIP

计量经济学 ——单方程计量经济学模型 理论与方法 第二章 经典单方程计量经济学模型：一元线性回归模型 第一节 回归分析概述 第二节 一元线性回归模型的参数估计 第三节 一元线性回归模型的统计检验 第四节 一元线性回归模型的预测 第二节：一元线性回归模型的参数估计 一、一元线性回归模型的基本假设 二、参数的普通最小二乘估计（OLS） 三、最小二乘估计量的性质 四、参数估计量的概率分布及随机误差项 方差的估计 给出一元线性回归模型的一般形式： 其中 ：被解释变量， ：解释变量， 和 ：待估参 数； ：随机误差项； 总体回归函数形式： 样本回归函数形式： 其中 是 的估计值，我们需要找到一种参数估 计方法，求出 ，并且这种参数估计方法保证了估 计值 与总体真值 尽可能地接近；这种参数 估计方法就是普通最小二乘法 OLS。 一、一元线性回归模型的基本假设 为保证参数估计量具有良好的性质， 通常对模型提出 若干基本假设，这些假设与所采用的估计方法紧密相关。 假设 1：解释变量 是确定性变量，不是随机变量； 假设 2：随机误差项具有 0 均值和同方差，即 假设3：随机误差项在不同样本点之间是独立的，不存 在序列相关，即： 一、一元线性回归模型的基本假设 假设 4：随机误差项与解释变量之间不相关， 即： 假设 5：随机误差项服从 0 均值，同方差的正态 分布，即 以上这些假设称为线性回归模型的经典假 设，满足这些假设的线性回归模型，也称为 经典线性回归模型（classical linear regression model）。在回归分析的参数估计和统计检验 理论中，许多结论都是以这些假定作为基础 的。如果违背其中的某一项假定，模型的参 数估计就会存在问题，也就是说最小二乘法 （OLS）就不再适用，需对模型进行修正或 采用其他的方法来估计模型了。 二、参数的普通最小二乘估计（OLS） 普通最小二乘法(Ordinary Least Squares，OLS) 回归分析的目的：根据样本回归函数 来 估计替代未知的总体回归函数 ，就要 保证样本回归函数尽可能地“接近”总体回归函数。 在已知总体的一组样本观测值 的情况下，为了保证样本回归函数 尽可能 地“接近”总体回归函数 ，就是要样本 回归线上的点 与真实观测点 在总体上尽量接近； 这也就是说要求样本回归函数 的估计值 与真实观测值 之间的误差 在总体上尽量 小。 每月家庭收入与消费支出散点图（样本） 二、参数的普通最小二乘估计（OLS） 要求真实观测值 与样本回归函数 的估计值 之间的误差，也就是残差 在总体上最小，即采用残差平方和 最小的准 则，也就是最小二乘准则： 根据微积分中求极值的原理，要使 达到最小， 待定系数 应满足： 二、参数的普通最小二乘估计（OLS） 即： 从而得到如下方程组： 以上方程组称为最小二乘的正规方程组(normal equations) 二、参数的普通最小二乘估计（OLS） 解这个正规方程组得： 其中 分别代表 和 两个变量的样本均值。 上式就称为线性回归模型参数 的最小二乘估计量 （ordinary least squares estimators）；将样本数据代入这 两个公式，就可以计算出 的具体数值，它们一定是 使残差平方和 取最小值的参数估计值（最小二乘估 计值）。 二、参数的普通最小二乘估计（OLS） 由此可得到拟合最优的样本回归直线（样本回归 函数）： 由残差 可得样本回归模型为： 将总体回归模型 与上式比较， 是 的估计值，残差 可看作随机误差项 的估计值。 二、参数的普通最