第三章多元线性回归分析第五次课.pptVIP

第三章 多元线性回归分析 多元线性回归模型 多元线性回归模型的参数估计 多元线性回归模型的统计检验 多元线性回归模型的预测 §3.1 多元线性回归模型 一、多元线性回归模型 二、多元线性回归模型的基本假定 一、多元线性回归模型 多元线性回归模型:表现在线性回归模型中的解释变量有多个。 一般表现形式： 二、多元线性回归模型的基本假定 假设1，解释变量是非随机的或固定的，且各X之间互不相关（无多重共线性）。 假设2，随机误差项具有零均值、同方差及不序列相关性 §3.2 多元线性回归模型的估计 估计方法：OLS普通最小二乘估计 一、普通最小二乘估计 对于随机抽取的n组观测值 四、参数估计量的性质 在满足基本假设的情况下，其结构参数?的普通最小二乘估计具有： 线性性、无偏性、有效性。 §3.3 多元线性回归模型的统计检验 一、拟合优度检验 二、方程的显著性检验(F检验) 三、变量的显著性检验（t检验） 一、拟合优度检验 1、可决系数与调整的可决系数 2、关于拟合优度检验与方程显著性检验关系的讨论 由 三、变量的显著性检验（t检验） 方程的总体线性关系显著?每个解释变量对被解释变量的影响都是显著的 §3.4 多元线性回归模型的预测 一、E(Y0)的置信区间 二、Y0的置信区间 如果已经知道实际的预测值Y0，那么预测误差为： 在中国居民人均收入-消费一元模型中， 在中国居民人均收入-消费二元模型中， 因此，必须对每个解释变量进行显著性检验，以决定是否作为解释变量被保留在模型中。 这一检验是由对变量的 t 检验完成的。 1、t统计量 由于 以cii表示矩阵(X’X)-1 主对角线上的第i个元素，于是参数估计量的方差为： 其中?2为随机误差项的方差，在实际计算时，用它的估计量代替: 因此，可构造如下t统计量 2、t检验 设计原假设与备择假设： H1：?i?0 给定显著性水平?，可得到临界值t?/2(n-k-1)，由样本求出统计量t的数值，通过 |t|? t?/2(n-k-1) 或 |t|?t?/2(n-k-1) 来拒绝或接受原假设H0，从而判定对应的解释变量是否应包括在模型中。 H0：?i=0 （i=1,2…k） 注意：一元线性回归中，t检验与F检验一致 一方面，t检验与F检验都是对相同的原假设H0：?1=0 进行检验; 另一方面，两个统计量之间有如下关系： 一、E(Y0)的置信区间 二、Y0的置信区间 对于模型 给定样本以外的解释变量的观测值X0=(1,X10,X20,…,Xk0)，可以得到被解释变量的预测值： 它可以是总体均值E(Y0)或个值Y0的预测。 但严格地说，这只是被解释变量的预测值的估计值，而不是预测值。 为了进行科学预测，还需求出预测值的置信区间，包括E(Y0)和Y0的置信区间。 易知 容易证明 于是，得到(1-?)的置信水平下E(Y0)的置信区间： 其中，t?/2为(1-?)的置信水平下的临界值。 容易证明 * i=1,2…,n 其中:k为解释变量的数目，?j称为回归参数（regression coefficient）。 习惯上：把常数项看成为一虚变量的系数，该虚变量的样本观测值始终取1。这样： 模型中解释变量的数目为（k+1） 也被称为总体回归函数的随机表达形式。它 的非随机表达式为: 方程表示：各变量X值固定时Y的平均响应。 ?j也被称为偏回归系数，表示在其他解释变量保持不变的情况下，Xj每变化1个单位时，Y的均值E(Y)的变化; 或者说?j给出了Xj的单位变化对Y均值的“直接”或“净”（不含其他变量）影响。 总体回归模型n个随机方程的矩阵表达式为 其中 样本回归函数：用来估计总体回归函数 其随机表示式: ei称为残差或剩余项(residuals)，可看成是总体回归函数中随机扰动项?i的近似替代。 样本回归函数的矩阵表达: 或 其中： 假设3，解释变量与随机项不相关 假设4，随机项满足正态分布 上述假设的矩阵符号表示 式： 假设1，n?(k+1)矩阵X是非随机的，且X的秩?=k+1，即X满秩。 假设2， 假设3，E(X’?)=0，即 假设4，向量? 有一多维正态分布，即 一、普通最小二乘估计 二、参数估计量的性质 如果样本函数的参数估计值已经得到，则有： i=1,2…n 根据最小二乘原理，参数估计值应该是下