现代统计方法作业word版.doc

PAGE 1 PAGE 16 研究生课程报告 题目：线性回归模型及其应用举例 姓名： 孙文 学号：2013020456 学院：管理科学学院 专业： 基础数学 线性回归模型及其应用举例 1．一元线性回归模型定义 一元线性回归模型（统计模型）的形式如下： yt = ?0 + ?1 xt + ut 其中yt 称被解释变量（因变量），xt称解释变量（自变量），ut称随机误差项，?0称常数项，?1称回归系数（通常未知）。上模型可以分为两部分： = 1 \* GB3 \* MERGEFORMAT ①回归函数部分，E(yt) = ?0 + ?1 xt,； = 2 \* GB3 \* MERGEFORMAT ②随机部分，ut 。这种线性模型可以赋予各种实际意义，比如收入与支出的关系；商品价格与供给量的关系；文件容量与保存时间的关系；身高与体重的关系林区木材采伐量与木材剩余物??关系等。 该线性回归模型存在两个特点： = 1 \* GB3 \* MERGEFORMAT ①建立在某些假定条件不变前提下抽象出来的回归函数不能百分之百地再现所研究的经济过程。 = 2 \* GB3 \* MERGEFORMAT ②也正是由于这些假定与抽象，才使我们能够透过复杂的经济现象，深刻认识到该经济过程的本质。 通常一元线性回归函数E(yt) = ?0 + ?1 xt 是观察不到的，利用样本得到的只是对E(yt) = ?0 + ?1 xt 的估计，即对?0和?1的估计。在对回归函数进行估计之前应该对随机误差项ut做出如下假定： = 1 \* GB3 \* MERGEFORMAT ①ut 是一个随机变量，ut 的取值服从概率分布； = 2 \* GB3 \* MERGEFORMAT ②E(ut) = 0； = 3 \* GB3 \* MERGEFORMAT ③D(ut) = E[ut - E(ut) ]2 = E(ut)2 = ? 2。称ui 具有同方差性； = 4 \* GB3 \* MERGEFORMAT ④ut 为正态分布（根据中心极限定理）。 以上四个假定可作如下表达，ut ? N (0, ? ? )； = 5 \* GB3 \* MERGEFORMAT ⑤ Cov(ui, uj) = E[(ui - E(ui) ) ( uj - E(uj) )] = E(ui, uj) = 0, (i ? j )，含义是不同观测值所对应的随机项相互独立，称为ui 的非自相关性； = 6 \* GB3 \* MERGEFORMAT ⑥xi是非随机的； = 7 \* GB3 \* MERGEFORMAT ⑦Cov(ui, xi) = E[(ui - E(ui) ) (xi - E(xi) )] = E[ui (xi - E(xi) ] = E[ui xi - ui E(xi) ] = E(ui xi) = 0，ui 与xi 相互独立，否则，分不清是谁对yt的贡献； = 8 \* GB3 \* MERGEFORMAT ⑧对于多元线性回归模型，解释变量之间不能完全相关或高度相关（非多重共线性）。 一元线性回归模型最小二乘估计（OLS） 2.1最小二乘估计基本方法 对于所研究的经济问题，通常真实的回归直线是观测不到的。收集样本的目的就是要对这条真实的回归直线做出估计，如下图的直线。 怎样估计这条回归直线呢？综合起来看，这条直线处于样本数据的中心位置最合理，怎样用数学语言描述“处于样本数据的中心位置”？可按以下方法处理，设估计的直线用 =+ xt来表示。其中称yt的拟合值，和分别是 ?0 和?1的估计量，观测值到这条直线的纵向距离用表示，称为残差，模型 yt =+=+ xt +称为估计的模型。假定样本容量为T，则可按以下方法： = 1 \* GB3 \* MERGEFORMAT ①用“残差和最小”确定直线位置是一个途径，但很快发现计算“残差和”存在相互抵消的问题； = 2 \* GB3 \* MERGEFORMAT ②用“残差绝对值和最小”确定直线位置也是一个途径，但绝对值的计算比较麻烦； = 3 \* GB3 \* MERGEFORMAT ③最小二乘法的原则是以“残差平方和最小”确定直线位置，用最小二乘法除了计算比较方便外，得到的估计量还具有优良特性，（这种方法对异常值非常敏感）设残差平方和用Q表示， Q = = = ， 则通过Q最小确定这条直线，即确定和的估计值。以和为