第五节古典线性回归模型.ppt

第五章　古典线性回归模型 问题的提出 数据背后存在着某种规律性 最小二乘保证了3条性质——残差和=0，残差与自变量无关、残差与拟合值无关 关于数据生成过程的初步假定——数据生成过程=确定性部分+非确定性部分 样本一般说来总会反映一些总体的性质，于是对非确定性部分——随机扰动项——作出类似于最小二乘残差的假设 数据背后存在着某种规律性 现实世界中本身存在着经济规律，正是这些经济规律的作用，通过现实经济生活又显现出一些复杂现象来。这些现象既有某种确定性（规律性的一面），有具有某种不确定性（随机性的一面）。 计量经济学研究假定现实数据中存在某种规律性——数据背后存在一个数据产生的过程，即经济现象后面存在规律性。 挖掘数据后面的规律乃是计量经济学的己任。 最小二乘保证了4条性质 1、残差和=0 2、残差与自变量不相关 3、残差与因变量拟合值不相关 4、因变量实际值与拟合值的均值相等 即： 解决问题的思路 数据生成过程=确定性部分+非确定性部分 关于数据生成过程的初步假定——提出线性模型 从总体与样本的关系看残差与随机扰动项的关系 对非确定性部分——随机扰动项——作出6项假设 关于数据生成过程的初步假定 虽然数据并不一定满足最小二乘估计直线这些性质，但仍可依据对现实的抽象，假定背后有一个数据生成的过程 yi=a+b1xi1+b2xi2+b3xi3+??????＋bkxik+ui (i=1,2, ?????,n) 仅仅是一个初步假定（假定：数据生成过程=确定性部分+非确定性部分），还须进一步对ui作出假定 从总体与样本的关系看残差与随机扰动项 最小二乘估计直线有４条性质。性质中的残差是一个样本的残差。 从总体与样本的关系看，数据是总体的一个子集，自然u^i也是ui的一个子集，而ui是总体的随机扰动项。 样本一般说来总会反映一些总体的性质，于是对随机扰动项作出类似最小二乘估计残差的假设。 从而完成了数据生成过程的假设。 第一节 有关随机扰动项ui的古典模型假设 随机扰动项ui是一个有关总体属性的随机变量，下面对ui的分布，依据最小二乘估计得到的残差（样本）的性质作出类似的假设： 假设１　随机扰动项ui垂直波动 假设２　残差分布均值为零 假设３　随机扰动项方差一定 假设４　随机扰动项（误差）相互独立 假设５　所有xi都是可观察的并且独立于ui 假设６　数据产生过程是线性的 假设１　随机扰动项ui垂直波动 （Vertical Error Jumps） 样本数据点只沿着yi的方向在真实直线附近垂直跳动，即这种波动围绕真实直线上下波动。对于每一个xi，yi总是垂直变动，没有横向偏移。这也就是说观察到的xi是准确无误的，实际中的xi没有丝毫偏差，而对应于xi的yi却存在垂直的偏差。 误差变量模型——xi存在随机偏差（Errorsin Variable Model）（第十五章中讨论） 古典线性模型中只有因变量存在垂直波动 变量误差模型——自变量也存在随机变动 假设２　残差分布均值为零（Zero Mean Error Displacement） E(ui)=0 (i=1,2,….,n) 必须注意：样本残差的数学期望 E(u^i)=0，是最小二乘保证了的，只要使用最小二乘法，就一定会有样本的残差均值为零。 而E(ui)=0则是一个假设，假设总体残差（随机扰动项）ui的数学期望为零 即总体随机扰动项对回归估计没有影响。或者消除了随机变动，规律性就呈现出来了。 假设３　随机扰动项方差一定（Constant Error Variance） Var(ui)=?2 (i=1,2,……，n) 表明对所有的ui，变动的方差是相同的，称为同方差。 否则，Var(ui)=?2i (i=1,2,……，n) Var(ui)=[ui-E(ui)]2=?2i (i=1,2,……，n) ?2i是一个变量（随I而变）。这种情形称为异方差。（在第十章中讨论） 同方差 异方差 假设４随机扰动项（误差）相互独立 （Error Independent） ui与uj不相关，也就是说，对所有的i<>j，有E(ui,uj)=0 由假设2，E(ui)=0，E(uj)=0，因此，COV(ui,uj)=E[ui-E(ui)][uj-E(uj)]=E(ui,uj) 由假设4，COV(ui,uj) =E(ui,uj)=0 自然有ui与uj不相关（i< >j），且有 E(ui,ui+1)= E(ui-1,ui)=0 如果E(ui,uj) < > 0，称为随机扰动项（误差）自相关（Autocorrelation）。（在第十一章中讨论） 假设５　所有xi都是可观察的 并且独立