22一元线性回归分析.pptxVIP

会计学 1 22一元线性回归分析 2 Notes 单方程计量经济学模型分为两大类：线性模型和非线性模型 线性模型中，变量之间的关系呈线性关系 非线性模型中，变量之间的关系呈非线性关系 一元线性回归模型：只有一个解释变量 i=1 Y为被解释变量，X为解释变量，0与1为待估参数， u为随机项。 第1页/共26页 3 回归分析的主要目的是要通过样本回归函数（模型）SRF尽可能准确地估计总体回归函数（模型）PRF。 估计方法有多种，其中最广泛使用的是普通最小二乘法（ordinary least squares, OLS）。 为保证参数估计量具有良好的性质，通常对模型提出若干基本假设。 实际这些假设与所采用的估计方法紧密相关。 第2页/共26页 4 一线性回归模型的基本假设 A1:随机误差项ui服从正态分布 ui~N(µ, i2 ) i=1,2, …,n A2:随机误差项ui具有零均值 E(ui)=0 i=1,2, …,n A3:随机误差项ui具有同方差 Var (ui)=u2 i=1,2, …,n 第3页/共26页 5 A4:随机误差项ui非自相关假设 Cov(ui, uj)=0 i≠j i,j= 1,2, …,n A5:随机误差项ui与解释变量X之间不相关 Cov(Xi, ui)=0 i=1,2, …,n A6:解释变量X之间不相关 第4页/共26页 6 通常情况下，假设x是非随机变量。 如果x是非随机变量，则假设5自动满足; Notes： 以上假设也称为线性回归模型的经典假设，满足该假设的线性回归模型，也称为经典线性回归模型（Classical Linear Regression Model, CLRM）。 第5页/共26页 7 二、回归参数的普通最小二乘估计（OLS） 普通最小二乘法（OLS）：选择参数使全部观测值的残差平方和（RSS）最小。 Q: Why not sum of residuals? 第6页/共26页 8 方程组（*）称为正规方程组（normal equations）。 第7页/共26页 9 上述参数估计量可以写成： 称为OLS估计量的离差形式（deviation form）。 由于参数的估计结果是通过最小二乘法得到 的，故称为普通最小二乘估计量（ordinary least squares estimators）。 第8页/共26页 10 顺便指出 ，记 则有 可得 （**）式也称为样本回归函数的离差形式。 （**） Notes：在计量经济学中，往往以小写字母表示对均值的离差。 第9页/共26页 例：在家庭可支配收入-消费支出例中，对于所抽出的一组样本数，参数估计的计算可通过下面的表2.2.1进行。 第10页/共26页 12 因此，由该样本估计的回归方程为： 第11页/共26页 13 三、最小二乘估计量的性质 当模型参数估计出后，需考虑参数估计值的精度，即是否能代表总体参数的真值，或者说需考察参数估计量的统计性质。 一个用于考察总体的估计量，可从如下几个方面考察其优劣性： （1）线性，即它是否是另一随机变量的线性函数； 第12页/共26页 14 （2）无偏性，即它的均值或期望值是否等于总体的真实值； （3）有效性，即它是否在所有线性无偏估计量中具有最小方差。 拥有这类性质的估计量称为 最佳线性无偏估计量 （best liner unbiased estimator, BLUE）。 第13页/共26页 15 高斯—马尔可夫定理 (Gauss-Markov Theorem) 在满足经典线性回归的假设条件下，最小二乘估计量是具有最小方差的线性无偏估计量。 第14页/共26页 16 第15页/共26页 17 第16页/共26页 18 证： 同样地，容易得出 第17页/共26页 19 第18页/共26页 20 （2）证明最小方差性 普通最小二乘估计量(OLS)称为最佳线性无偏估计量（BLUE） 第19页/共26页 21 最小二乘估计量是一致性估计量 样本协方差？ 第20页/共26页 22 四、参数估计量的抽样分布及随机项方差的估计 第21页/共26页 23 随机误差项u的方差2的估计 2又称为总体方差。 第22页/共26页 24 由于随机项ui不可观测，只能利用残差ei (ui的估计)的样本方差，来估计ui的总体方差2 。 样本方差？ 可以证明，2的最小二乘估计量为: 它是关于2的无偏估计量。 第23页/共26