第四章 典线性回归模型(金融计量-浙大 蒋岳祥).docVIP

上课材料之五 第四章 古典线性回归模型 在引论中，我们推出了满足凯恩斯条件的消费函数与收入有关的一个最普通模型：C=α+βX+ε，其中α＞0，0＜β＜1ε是一个随机扰动。这是一个标准的古典线性回归模型。假如我们得到如下例1的数据 例1 可支配个人收入和个人消费支出 年份 可支配收入 个人消费 1970 751.6 672.1 1971 779.2 696.8 1972 810.3 737.1 1973 864.7 767.9 1974 857.5 762.8 1975 847.9 779.4 1976 906.8 823.1 1977 942.9 864.3 1978 988.8 903.2 1979 1015.7 927.6 来源：数据来自总统经济报告，美国政府印刷局，华盛顿特区，1984。 （收入和支出全为1972年的十亿美元） 一、线性回归模型及其假定 一般地，被估计模型具有如下形式： yi=+βxi+εi，i=1,…,n, 其中y是因变量或称为被解释变量，x是自变量或称为解释变量，i标志n个样本观测值中的一个。这个形式一般被称作y对x的总体线性回归模型。在此背景下，y称为被回归量，x称为回归量。 构成古典线性回归模型的一组基本假设为： 1. 函数形式：yi=+βxi+εi，i=1,…,n, 2. 干扰项的零均值：对所有i，有：E[εi]=0。 3. 同方差性：对所有i，有：Var[εi]=σ2，且是一个常数。 4. 无自相关：对所有i≠j，则Cov[εi,εj]=0。 5. 回归量和干扰项的非相关：对所有i和j有Cov[xi,εj]=0。 6. 正态性：对所有i，εi满足正态分布N（0，）。 模型假定的几点说明： 1、函数形式及其线性模型的转换 具有一般形式 对任何形式的g(x)都符合我们关于线性模型的定义。 [例] 一个常用的函数形式是对数线性模型： 。 取对数得： 。（） 这被称作不变弹性形式。在这个方程中，y对于x的变化的弹性是 ， 它不随x而变化。与之相反，线性模型的弹性是： 。 对数线性模型通常用来估计需求函数和生产函数。 尽管线性模型具有巨大的灵活性，但在实际中存在着大量的非线性模型的形式。 例如，任何变换也不能将 和（0＜＜1） 转化为线性回归模型。 2、回归量 对于回归量即解释变量我们有两种处理方法，第一种将X设定为非随机变量，第二种方法将X设定为随机变量。 1）当X为非随机变量 xi的值在yi的概率分布中是已知的常数。这条假定暗示yi的每一个值都是一个概率分布的观察值，这个概率分布具有均值 和方差 。 此外，有必要假定，对n≥1 是一个有限正数，这个假定被称作识别条件，若xi没有任何变化，我们所有的观测值将落在一条垂直线上，我们的观测数据将不允许我们作出关于回归+βx的任何推断。这个识别条件等同于子样的极差max(X1,…,Xn)－min(X1,…,Xn)≠0。 2）当X为随机变量 若x被当作一个随机变量，则假定1成为一个对y和x的联合分布的陈述。 我们就用条件期望和方差来处理。 3、随机干扰项 1）如果干扰项不是零均值，即E[εi]=μ，对所有的i，则+βx+εi等同于（+μ）+βx+（εi－μ），令′=+μ及εi′=εi－μ可得到模型，，此模型满足我们原始模型的要求。 2）观测值中的随机部分假定是不相关的： E[εiεj]=0 对所有i不等于j。 这被称为非自相关。 二、最小二乘法 1 最小二乘系数 总体回归是E[yi|xi]= +βxi，而我们对E[yi|xi]的估计记作 。 和第i的数据点相联系的干扰项是 对a和b的任何值，我们用残差 来估计εi，从这些定义可知： 。 对任何一对值a和b，残差平方和是： 最小二乘法系数就是使这个拟合标准达到最小的a和b的值。最小化的一阶条件是 和 将上两式展开合并同类项后得到正规方程组 （1） （2） （1）式暗示，而（2）式暗示 为了得到解，我们首先用n除（1）结果是 最小二乘回归线通过均值点。现在分离a： （3） 有了a后，我们可以求解（2）得到b。首先，。将此和（3）代入（2）并重新安排各项。 或 最小的残差平方和，对a和b的二阶微商矩阵是 . 我们必须表明这是一个正定矩阵，两个对角元素永远为正，所以仅需证明行列式为正，行列式为，所以行列式为 由识别条件得知这是一个正值