3-多元线性回归模型讲义.ppt

第三章多元线性回归模型 主要内容 多元线性回归模型的一般形式 参数估计（ OLS估计） 假设检验 预测 一. 多元线性回归模型 问题的提出 解析形式 矩阵形式 问题的提出 现实生活中引起被解释变量变化的因素并非仅只一个解释变量，可能有很多个解释变量。 例如，产出往往受各种投入要素——资本、劳动、技术等的影响；销售额往往受价格和公司对广告费的投入的影响等。 所以在一元线性模型的基础上，提出多元线性模型——解释变量个数≥ 2 多元线性回归模型的假设 解释变量 Xi 是确定性变量，不是随机变量；解释变量之间互不相关 随机误差项具有0均值和同方差 随机误差项不存在序列相关关系 随机误差项与解释变量之间不相关 随机误差项服从0均值、同方差的正态分布 多元模型的解析表达式 多元模型的矩阵表达式 矩阵形式 二. 参数估计(OLS) 参数值估计 参数估计量的性质 偏回归系数的含义 正规方程 样本容量问题 1.参数值估计(OLS) 最小二乘法的矩阵表示 2.最小二乘估计量的性质 线性（估计量都是被解释变量观测值的线性组合） 无偏性（估计量的数学期望=被估计的真值） 有效性（估计量的方差是所有线性无偏估计中最小的） 线性 无偏性 有效性 3.偏回归系数的意义 多元回归模型中的回归系数称为偏回归系数 某解释变量前回归系数的含义是，在其他解释变量保持不变的条件下，该变量变化一个单位，被解释变量将平均发生偏回归系数大小的变动 偏回归系数是有单位的 4.正规方程 由最小二乘法得到的用以估计回归系数的线性方程组，称为正规方程 正规方程的结构 Y ——被解释变量观测值 n x 1 X ——解释变量观测值（含虚拟变量n x (k+1) ） X`X ——设计矩阵（实对称(k+1) x (k+1)矩阵 ） X`Y ——正规方程右端 (k+1) x 1 ——回归系数矩阵（ (k+1) x 1 ） ——高斯乘数矩阵， 设计矩阵的逆 ——残差向量（ n x 1 ） ——被解释变量的拟合（预测）向量 n x 1 5.多元回归模型参数估计中的样本容量问题 样本是一个重要的实际问题，模型依赖于实际样本。 获取样本需要成本，企图通过样本容量的确定减轻收集数据的困难。 最小样本容量：满足基本要求的样本容量 最小样本容量 n ≥ k+1 (X`X)-1存在?| X`X |?0 ? X`X 为k+1阶的满秩阵 R(AB) ≤ min(R(A),R(B)) R(X) ≥ k+1 因此，必须有n≥k+1 满足基本要求的样本容量 一般经验认为： n ≥ 30或者n ≥ 3(k+1)才能满足模型估计的基本要求。 n ≥ 3(k+1)时，t分布才稳定，检验才较为有效 三. 多元线性回归模型的统计检验 拟合优度检验 方程显著性检验（F检验） 变量显著性检验（t检验） 1.拟合优度检验 拟合优度R2和调整了的R2 R2 —拟合优度（判定系数、决定系数） —调整了的拟合优度 2.模型整体的F检验 关于TSS、ESS、RSS自由度 TSS(离差平方和): n-1 ESS(残差平方和):n-k-1 RSS(回归平方和):k 3.参数估计量的t检验 回归模型假设检验的步骤 查看拟合优度，进行F检验，从整体上判断回归方程是否成立，如果F检验通不过，无须进行下一步；否则进行下一步 查看各个变量的t值及其相应的概率，进行t检验，如果相应的概率小于给定的显著水平，该自变量的系数显著地不为0，该自变量对因变量作用显著；否则系数与0无显著差异（本质上=0），该自变量对因变量无显著的作用，应从方程中删去，重新估计方程。 但是，一次只能将最不显著（相应概率最大）的删除。每次删除一个，直至全部显著。 四.多元线性回归模型的预测 五. 二元线性回归模型 举例：新股发行抑价的实证研究 计量经济学软件介绍 TSP（Time Series Program） Eviews （Econometrics Views） 基本步骤与命令 建立工作文件 CREATE A 80 98 数据输入 DATA Y X (结束时输入X) 数据显示 SHOW Y X 绘制散点图 SCAT Y X 回归分析 LS Y C X 定义样本区间 SMPL m n 预测FORCST Z (先扩展EXPAND，再取样SMPL，录入数据DATA，后预测，最后显示预测结果SHOW) -1 * * 得到下列方程组 求参数估计值的实质是求一个k+1元方程组 正规方程 变成矩阵形式 正规方程 矩阵形式 可决系数（Determinants of coefficient）R2 残差的标准差（或随机项μ的方差σμ2)的最小二乘估计