线性回归课程.pptVIP

STATA虚拟变量的应用 虚拟变量的设置 假定type为三分类变量。 tab type, gen (type)生成三个0、1变量； xi i.type生成两个0、1变量，以type＝1为参照类； 虚拟变量回归 reg y x1 x2 type2 type3; areg y x1 x2, absorb (type)之前不用生成虚拟变量，将type统一估计，不给出单个虚拟变量的回归系数； xi: reg y x1 x2 i.type 之前不用生成虚拟变量，模型估计时自动将type生成2（即k－1）个虚拟变量。 STATA线性回归分析的诊断 回归诊断： 对遗漏变量二次幂及以上形式的检验：ovtest 异方差检验hettest，显著的异方差性意味着标准误和假设检验可能无效； 图形检验异方差性和误差的正态性：rvfplot 相对y平均水平的离散度大可能造成异方差性； 对称意味着于正态误差假定相一致； 预测变量y在x每个取值上的残差图rvpplot x1 某个自变量净（边际）作用的考察： avplot x1；考察所有自变量的净作用则avplots 非线性关系的检验：acprplot high, lowess 线性回归分析 第一节 一元线性回归模型 第二节 多元线性回归模型 第三节 回归方程统计检验 第四节 多重共线性问题 第五节 虚拟变量的应用 第六节 统计软件在线性回归分析中的应用 第一节 一元线性回归模型 一元线性回归模型的由来： 假设在总体中满足Y=A+BX+ε，Y为随机变量，X为确定变量； 将随机样本的观测数据代入方程中，则有：yi = a+bxi+ei，ei为样本随机误差项。 y’=a+bx。参数a、b用最小平方法（Ordinary Least Squares）求得，即所有观测值与估计值之间的误差平方和最小。 一元线性回归模型y’=a+bx的作用： 简化x、y之间的关系，以直线作为简化方式； 用x来预测y的变化，以直线作为预测的准则； 研究x在多大程度上解释y的变化。 一元线性回归系数 一元回归系数的含义： a是直线在y轴上的截距，代表y的基础水平； b是直线的斜率，代表x变化一个单位时，y的平均变化 ； 变量变换： 由于直线关系是最简单的（叠加）关系，所以，尽量用直线作为预测或估计的准则； 当因变量y与自变量x是非线性关系时，可以通过变量变换使经过变换的新变量对于参数是线性的。 关于最小平方法 一元线性回归模型的估计方法：最小平方法； 最小平方法的统计性质： 回归方程的拟合误差总和等于0，即Σei ＝0； 误差平方和最小，即在所有拟合散点的直线中，根据最小平方法原则得到的回归直线使n个散点（yi，xi）沿y轴方向到直线的距离平方和最小； y’的平均值等于y的平均值； x与e相互独立，即x与e的协方差等于0，Cov(x,e)=[ Σ(xi-x)（ei）]/n =0; y’与e相互独立，即y’与e的协方差等于0； 直线通过n个散点的重心点，即x与y的均值确定的点 一元线性回归模型的假设 模型的假设条件（assumption）。 统计理论已经证明，在满足一定的假设条件下，样本数据的最小平方估计是总体参数的最佳线性无偏估计。 在推断总体参数或进行统计检验时，必须考虑总体回归模型中的随机误差项ε的分布特征 。 对总体随机误差ε的假设： 高斯假设：零均值性；等方差性；误差之间独立；误差项与自变量相互独立； 误差的正态分布性； 违反假设可能产生的影响。 第二节 多元线性回归模型 含义和作用 分析一个随机变量与多个变量之间线性关系的最常用的统计方法。 它用变量的观察数据拟合所关注的变量，并以线性关系式表达所关注的变量，并且回答这种表达的解释程度有多高； 检验影响变量的显著程度和比较它们的作用大小，进而用两个或多个变量的变化解释和预测另一个变量的变化。 因变量（dependent variable）和自变量（independent variable）的确定是建立回归模型的主要任务。 多元线性回归方程 多元线性回归方程的由来： Y=B0+B1X1+B2X2+…+BkXk+ε，其中Y为可观察的随机变量，X1、X2，…Xk 为可观察的一般变量，B0，B1，B2，…Bk为待定模型参数，其中B0 为截距，ε为不可观测的随机误差 ； 由n组独立观察的样本数据（yi,xi1,xi2,…，xik）得到方程： yi=b0+b1xi1+b2xi2+…+bkxik+ei 。其中，i＝1，2，…，n。由于n个随机变量ei相互独立且服从同一正态分布Nor(0,δ2) 根据最小平方法原则，求B0，B1，B2，…Bk 的估计值b0，b1，b2，…bk，使上式的误差平方和最小，即Σ(ei)2=Σ[yi-(b