第2章线性回归.pptVIP

2.2.1 一元线性回归分析的几个定义 在回归分析中，我们把被预测或被解释的变量称为因变量（dependent variable），用Y表示；把用来预测或用来解释因变量的一个或多个变量称为自变量（independent variable），用X表示。当只涉及一个自变量时称为一元回归，若因变量Y与自变量X之间为线性关系时称为一元线性回归。描述因变量Y如何依赖于自变量X和误差项?的方程称为回归模型。 一元线性回归模型可表示为： 。? 被称为误差项的随机变量， 和 称为模型的参数。 第29页，共84页，编辑于2022年，星期六 2.2.2 一元线性回归分析的一般步骤 第一步，变量的选择问题。根据研究的目的和内容确定被解释变量Y和解释变量X，选择的原则：既要与被解释变量Y有密切的联系，又要考虑变量资料的可得性，还要兼顾模型简洁。 第二步，模型的设定。模型的设定往往需要经济理论的指导。 第三步，参数估计。根据设定的模型，利用已经收集到的样本数据，应用最小二乘法对模型中的参数进行估计，包括对 、 和 的估计。 第四步，模型的检验和修正。常用的检验有经济理论上的检验（如系数的正负和大小是否符合有关的经济理论）、统计检验（如F检验。t检验）、计量检验、拟合优度检验、异方差检验、自相关检验以及残差图检验等。 第五步，模型的运用。主要用于预测。 第30页，共84页，编辑于2022年，星期六 2.2.3 参数的普通最小二乘估计 最小二乘法（OLS）的基本思想 在来自于总体的n个观测点中，找到一条直线使得这些点到这条直线的垂直距离的平方和 最小。即在给定样本观测值下，选择出 、 能使 与 之差的平方和最小。 第31页，共84页，编辑于2022年，星期六 设用n个点(X1，Y1)， (X2，Y2)，…， (Xn，Yn)拟合而得的直线方程为： 称 为Yi的拟合值，称ei为Yi的拟合误差。 拟合一条直线的准则 第32页，共84页，编辑于2022年，星期六 拟合一条直线的准则 拟合误差的直观图 Y X ． ． ． ei 第33页，共84页，编辑于2022年，星期六 1.假设以似合误差之和为最小作为拟合直线的标准，即要求 为最小。 当似合误差中有符号正负抵消时，即使拟合直线离散布点大多数很远，也可能此和式很小。 2.为了克服上述准则中由于误差符号相反所带来的缺点，改为以误差绝对值之和为最小作为拟合直线的准则。 虽然可排除大的正负误差相抵，但可能会照顾了一些点而忽略了个别点。 第34页，共84页，编辑于2022年，星期六 拟合误差的直观图2-A 拟合误差的直观图2-B Y X ． ． ． +3 -2 -2 Y X ． ． ． +5 第35页，共84页，编辑于2022年，星期六 3.第二种消除正负相抵的方法是以拟合误差平方和为最小作为拟合直线的准则，即以 为最小。 采用这一准则，一方面消除了正负相抵，另一方面避免了像2那样有个别点是大误差绝对值的情况。依照这一标准，图2中的-A优于-B的拟合。 进一步的研究表明，这一标准是可取的准则。这一准则称为：“最小二乘”或“最小平方准则”。 第36页，共84页，编辑于2022年，星期六 2.2.4　拟合优度检验 回归分析是要通过样本所估计的参数来代替总体的真实参数，或者说是用样本回归线代替总体回归线。 尽管从统计性质上已知，如果有足够多的重复抽样，参数的估计值的期望（均值）就等于其总体的参数真值，但在一次抽样中，估计值不一定就等于该真值。 那么，在一次抽样中，参数的估计值与真值的差异有多大，是否显著，这就需要进一步进行统计检验。 主要包括拟合优度检验、变量的显著性检验及残差图分析。 第37页，共84页，编辑于2022年，星期六 拟合优度检验：对样本回归直线与样本观测值之间拟合程度的检验。 度量拟合优度的指标：决定系数R2，它被定义为被解释变量的差异有多大程度可以用解释变量来解释，解释的程度越高，就越大。 R2的取值范围为 [0,1]。R2越接近1，说明实际观测点离样本线越近，拟合优度越高。 2.2.4.1　拟合优度检验 第38页，共84页，编辑于2022年，星期六 2.2.4.2　 决定系数R2与相关系数r 注意：上式表明了样本相关系数与决定系数之间在数量上的关系。但是决定系数 与样本相关系数的平方 是两个完全不同的概念。相关系数r反映的是变量之间线性关系的强弱程度，它可正可负；而决定系数 反映的是回归方程的拟合程度，是一个比例关系，只能是正数。 第39页，共84