《多元线性回归模型的参数估计 2.pptVIP

多元线性回归模型的参数估计Estimation of Multiple Linear Regression Model 一、多元线性回归模型 二、多元线性回归模型的参数估计 三、OLS估计量的统计性质 四、参数估计量的方差-协方差矩阵和随机误差项 ?2方差的估计 五、样本容量问题 六、多元线性回归模型实例 一、多元线性回归模型 1、多元线性回归模型的形式 由于： 在实际经济问题中，一个变量往往受到多个原因变量的影响； “从一般到简单”的建模思路。 所以，在线性回归模型中的解释变量有多个，至少开始是这样。这样的模型被称为多元线性回归模型。 多元线性回归模型参数估计的原理与一元线性回归模型相同，只是计算更为复杂。 多元线性回归模型的一般形式为： 习惯上把常数项看成为一个虚变量的系数，在参数估计过程中该虚变量的样本观测值始终取1。这样： 模型中解释变量的数目为（k+1）。 多元线性回归模型的矩阵表达式为： 2、多元线性回归模型的基本假定 模型(2.3.1)或(2.3.2)在满足下述所列的基本假设的情况下，可以采用普通最小二乘法（OLS）估计参数。 二、多元线性回归模型的参数估计 1、普通最小二乘估计 普通最小二乘估计 估计过程的矩阵表示： 2、最大或然估计 Y的随机抽取的n组样本观测值的联合概率 对数或然函数为 参数的最大或然估计 结果与参数的普通最小二乘估计相同 3、矩估计(Moment Method,MM) 用每个解释变量分别乘以模型的两边，并对所有样本点求和，即得到： 对每个方程的两边求期望，有： 得到一组矩条件 求解这组矩条件，即得到参数估计量 与OLS、ML估计量等价 矩方法是工具变量方法(Instrumental Variables,IV)和广义矩估计方法(Generalized Moment Method, GMM)的基础 在矩方法中关键是利用了 如果某个解释变量与随机项相关，只要能找到1个工具变量，仍然可以构成一组矩条件。这就是IV。 如果存在＞k+1个变量与随机项不相关，可以构成一组包含＞k+1方程的矩条件。这就是GMM。 4、多元回归方程及偏回归系数的含义 称为多元回归方程（函数）。 偏回归系数的含义如下： ?1度量着在X2,X3,…,Xk保持不变的情况下，X1每变化1个单位时，Y的均值E(Y)的变化，或者说?1给出X1的单位变化对Y均值的“直接”或“净”（不含其他变量）影响。 其他参数的含义与之相同。 三、OLS估计量的统计性质 四、参数估计量的方差-协方差矩阵和随机误差项?2方差的估计 1、一个疑问与回答 疑问：在无偏性证明中将参数估计量看作随机量，而在正规方程组的推导中又将它看作确定值。如何解释？ 解释：将一组具体样本资料代入参数估计量的表达式给出的参数估计结果是一个“估计值”，或者“点估计”，是参数估计量的一个具体数值，是确定的；但从另一个角度，仅仅把它看成是参数估计量的一个表达式，那么，则是被解释变量观测值的函数，而被解释变量是随机变量，所以参数估计量也是随机变量，在这个角度上，称之为“估计量”。 2、参数估计量的方差-协方差 将参数估计量看作随机量，具有数字特征。 参数估计量的方差以及不同参数估计量之间的协方差在模型理论中具有重要性。 具体描述如下： 3、随机误差项?2方差的估计 五、样本容量问题 ⒈ 最小样本容量 所谓“最小样本容量”，即从最小二乘原理和最大或然原理出发，欲得到参数估计量，不管其质量如何，所要求的样本容量的下限。 样本最小容量必须不少于模型中解释变量的数目（包括常数项）。 2、满足基本要求的样本容量 从参数估计角度：＞3×解释变量数目 从检验的有效性角度：＞30 3、模型的良好性质只有在大样本下才能得到理论上的证明 六、多元线性回归模型实例 中国消费函数模型 根据消费模型的一般形式，选择消费总额为被解释变量，国内生产总值和前一年的消费总额为解释变量，变量之间关系为简单线性关系，选取1981年至1996年统计数据为样本观测值。 中国消费数据表 单位：亿元 模型估计结果 拟合效果 多元线性回归模型的统计检验Statistical Test of Multiple Linear Regression Model 一、拟合优度检验 二、方程显著性检验 三、变量显著性检验 说 明 由计量经济模型的数理统计理论要求的 以多元线性模型为例 将参数估计量和预测值的区间检验单独列为一节，在一些教科书中也将它们放在统计检验中 包含拟合优度检验、总体显著性检验、变量显著性检验、偏回归系数约束检验、模型对时间或截面个体的稳定性检验等 一、拟合优度