应用线性回归第二章讲课.ppt

§2.1 多元线性回归模型 本节基本内容: 一、多元线性回归模型的意义 二、多元线性回归模型的矩阵表示 三、多元线性回归中的基本假定 一般形式：对于有 p 个解释变量的线性回归模型 模型中参数 是偏回归系数，样本容量 为n. 偏回归系数：控制其它解释量不变的条件下，第j 个解释变量的单位变动对应变量平均值的影响。 的样本条件均值表示为多个解释变量的函数 或 回归剩余（残差）： 二、多元线性回归模型的矩阵表示 个解释变量的多元线性回归模型的 个观测 样本，可表示为 三、多元线性回归中的基本假定 假定1：零均值假定 或 假定2和假定3：同方差和无自相关假定 假定4：随机扰动项与解释变量不相关 假定5:无多重共线性假定 (多元中) 假定各解释变量之间不存在线性关系，或各个解释变量观测值之间线性无关。或解释变量观测值矩阵 列满秩( p+1 列)。 即 可逆 假定6：正态性假定 多元线性回归模型的估计 本节基本内容: ● 普通最小二乘法（OLS） ● OLS估计式的性质 ● OLS估计的分布性质 ● 随机扰动项方差 的估计 ● 回归系数的区间估计 一、普通最小二乘法（OLS） 最小二乘原则 剩余平方和最小： 求偏导,令其为0: 即 注意到 用矩阵表示 因为样本回归函数为 两边乘 X’ 有： 因为 ，则正规方程为： 随机扰动项方差 的估计 二、OLS估计式的性质 OLS估计式 ? 1.线性特征: 是 的线性函数，因 是非随机 或取固定值的矩阵 2.无偏特性: 3.?最小方差特性 在 所有的线性无偏估计中，OLS估计 具有 最小方差 结论：在古典假定下，多元线性回归的 OLS估计式是最佳线性无偏估计式（BLUE） 三、OLS估计的分布性质 多元回归中 的无偏估计为： 或表示为 将 作标准化变换： 因 是未知的，可用 代替 去估计参数 的标 准误差: ● 当为大样本时，用估计的参数标准误差对 作标准化变换，所得Z统计量仍可视为服从正态分布 ●当为小样本时，用估计的参数标准误差对 作标准化变换，所得的t统计量服从t分布： 五、回归系数的区间估计 § 2.2多元线性回归模型的检验 本节基本内容: ●多元回归的拟合优度检验 ●回归方程的显著性检验（F检验） ●各回归系数的显著性检验（t检验） 二、回归方程显著性检验（F检验） 基本思想 在多元回归中有多个解释变量，需要说明所有解 释变量联合起来对应变量影响的总显著性,或整个 方程总的联合显著性。对方程总显著性检验需要 在方差分析的基础上进行F检验。 ??§2.3多元线性回归模型的预测 本节基本内容: ●应变量平均值预测 ●应变量个别值预测 一、应变量平均值预测 §2.4 在简单回归模型上增加一个自变量 偏相关 正交性 §2.5 附加变量图 附加变量图的性质 通过原点的回归 序贯方差分析表 给定显著性水平 ，查 t 分布表得自由度为 的临界值 则 因此，多元回归时 的个别值的置信度 的预 测区间的上下限为： 由于 给定 ，查t分布表的自由度为 的临界值