计量经济学讲义_3_第一章线性回归基础.docVIP

. 专业.专注 . PAGE . word完美格式 . 4 最小二乘原理 计量经济学最关心的理论模型是类似于 表示变量之间的关系。 散点图 为了弄清楚变量之间的关系，我们从画出他们的散点图开始比较好。从画的图中我们可以大体上判断以下变量之间是呈直线关系，还是二次曲线关系。这对准确建立模型很有帮助。 模型代表只要我们知道，我们就可以完全知道。但是现实中不是这样。这时除了系统因素之外，还有其他别的因素影响。此时我们用确率模型 来表示。其中，是被说明变量，或从属变量；是说明变量，或独立变量；是误差项，也可以叫做搅乱项。 函数的设定与参数的意义 不同的模型定义，它所定义的参数的意义不同。为简单起见，在本节中，我们先省去误差项。我们讨论一下参数的意义。 在中，，意味着发生一单位的变化时，相应地变化几个单位，也就是我们所熟悉的限界消费性向。 但是对于来说，我们先两边取自然对数，，这时， ，其中，，结果。代表变化1%时，变化%单位。也就是弹力性。 最小二乘法 3-1． 基本符号 样本平均 偏离样本平均的平方和 ； 其中，，小写代表偏离样本平均的程度，即偏差。 偏差有以下重要性质： ； 证明： =0 我们可以同样证明。 下面我们再看看。 我们用同样的方法可以求出。 最小二乘原理 我们定义的推定线为，其中和分别代表和的推定值，读为ha.to。当时，。观察值与推定值之间的差，我们称之为残差(residual)。在图中，用垂直于横轴的线段来表示。即，，代表观察时点t时，观察值与推定值的不一致的程度。为了评价所有的观察时点，的不一致程度，我们用作为衡量的尺度。 我们把称为残差平方和(residual sum of squares,RSS)。但是我们不能用，和作为衡量不一致程度的工具。因为与观察值无关，只要给出足够大的，，和可以任意地变小。也就是说它们没有最小值。但是， 确不一样。的值与有关。所以我们只要找到使得最小的最为的推定值。这就是最小二乘法。 最小二乘推定量的导出 对于模型 来说，的最小二乘推定量为，它们是使得残差平方和最小的的推定值。 两边平方 前面我们曾经提到，进一步我们可以得到， 我们用偏差平方和的写法把上面的残差平方和再重新改写一下， 上式的右侧第三项中不含有，所以第三项不会随着的变化而变化。第一项和第二项由都是平方的形式，因此只要第一项和第二项同时为0的是时候，残差平方和就为最小，也就是残差平方和为0。 由此我们可以得到， 这种求最小二乘推定量方法的优点是，不需要使用偏微分方法，也不需要讨论为使残差平方和最小而必须满足的二次条件。 最小二乘回归线 我们把称为最小二乘回归线或样本回归线。 我们把代入样本回归线中，我们发现 ，由此我们可以判断样本回归线经过样本平均点。 练习题 1). 使用下面的数据，用最小二乘法估计模型。 X 6 11 17 8 13 Y 1 3 5 2 4。 第一种方法： x 6 11 17 8 13 55 sum(x) y 1 3 5 2 4 15 sum(y) xy 6 33 85 16 52 192 sum(xy) xx 36 121 289 64 169 679 sum(xx) ;=-1.01 另外一种求法：先求出均值；求出small x,y;再求出；；