3---单变量回归.docVIP

单变量回归 主要内容： 一、　 最小二乘原理 二、 单变量回归的参数估计方法和模型的假设检验 一、　模型的设定和参数的意义 １．　古典计量经济学中的研究对象均为线性模型 古典计量经济学最关心的理论模型为类似于所表示的变量间的关系。 (1) 确认线性关系 为了弄清楚解释变量和被解释变量间是否呈线性关系，从他们的散点图开始比较简单。散点图可以大体上判断以下变量之间是呈直线关系，还是二次曲线关系等。对准确建立模型很有帮助。 例如，分析日本的居民收入与消费的关系 首先收集到连续16年的日本国内居民收入和消费的数据，然后以居民收入为横轴，消费为纵轴做出散点图来判断其线性关系。 显然，上面散点图中的样本呈现很强的线性关系。添加拟合直线，如下图。 显然，散点图中的拟合直线与相应的样本可能存在一定的差异，这说明仅仅知道解释变量，还不能完全了解被解释变量，还需要一个称为误差项的随机变量，误差项可大可小、时正时负，结果我们看到散点图中的拟合直线上的预测值与实际观察到的有一定的偏离，线性模型可以记为 ，　　。 线性化 对于明显呈现非线性的样本而言，需要事先对必要的解释变量或被解释变量或全部进行线性化的处理。 例如，分析美国GDP的变化对其股票指数的影响。 首先做出1970年到1987年间的美国股票指数和GDP的散点图，然后判断它们之间是否呈现线性关系。 显然，解释变量GDP与被解释变量美国股票指数间呈现非线性。散点图呈现的图形与 相似，对美国股票指数这一被解释变量进行变换，定义美国股票指数的对数为新的被解释变量，这样进行线性化。线性化的结果如下， 显然，线性化后解释变量与被解释变量间的线性程度有所加强。下图中的直线即为拟合直线。 例如，分析硫酸中铁杂质含量对硫酸透明度的影响。其散点图如下， 该散点图与的图形相似，对铁杂质含量这一解释变量进行变换，定义新的解释变量为铁杂质含量的倒数，即 ， 新的散点图如下， 较变换前，线性关系明显增强。 对于哪些无法确定相似函数的散点图而言，可以通过对解释变量或被解释变量单边进行对数运算，或者两者同时进行对数变换的方式进行线性化。 综上，通过散点图确认解释变量和被解释变量间的线性关系。对于非线性的样本，可以应用形似函数的逆函数进行线性化；或直接通过对数变换进行线性化。 2. 参数的意义 模型的不同设定方式导致其参数的意义各异。为简单起见，先省去误差项，讨论讨论参数的意义。 在 中， 意味着解释变量发生一单位的变化时，被解释变量相应变化的单位数，也就是大家熟悉的边界消费。 对于 而言，先进行线性化， ， 这时， 意味着变化1%时，变化为，即弹性。 最小二乘原理 对于模型 而言，根据什么原则进行参数估计？显然，不同的估计方法，产生各异的估计。古典计量经济学应用的是最小二乘原理进行参数估计，故称为最小二乘估计。 什么是最小二乘原理？下面通过一个具体实例来介绍最小二乘原理的思想。 1. 实例----美国股票指数与GDP 例如，想分析美国GDP的变化对其股票指数的影响。 首先收集到1970年到1987年间的美国股票指数和GDP数据。然后建立回归模型 其中，代表第t期的美国股票指数，代表第t期的GDP的大小；a和b均为参数，需要通过样本估计；为误差项，且。最后，估计参数a和b，即和。也 就是说，对于上面的散点图中所有的样本点，按照某一原则确定一条拟合直线，该直线的截距为，斜率为。 显然，可以有无数条拟合直线。那条拟合直线更好一些？为解决这一问题，首先必须明确判断好坏的标准。其中一条得到广泛认可的是，能使偏差的大小总和达到最小的那条拟合直线最好。如下图中的拟合直线。 这就是最小二乘原理的基本思想。 最小二乘原理 基本符号 样本均值 偏差 偏差的性质 证明： =0 同理可证。 偏差的平方和 (2) 最小二乘原理 定义 的拟合直线为 ， 其中，和分别代表参数a和b 的估计。当已知解释变量时，被解释变量的预测值为。被解释变量的实际观测值与其预测值间的差异，定义为残差(residual)。 图中，用垂直于横轴的线段来表示。即，，代表第t期观测值与预测值不一致的程度。为了评价全部样本的()不一致程度，用 作为衡量的尺度。 就是所谓的残差平方和 (residual sum of squares, RSS)。由于与参数估计的大小无关，，和可以任意地变小，即它们没有最小值，所以不能用，和作为衡量不一致程度的工具。 却不一样。的值与参数估计和有关。所以只