【精选】第8.6节 多元回归分析.pptVIP

在许多实际问题中，对某一变量Y 有重要影响的解释变量不止一个，此时就需要研究一个随机变量Y 与多个普通变量 X1, X2, ···, XP 之间的回归关系，这就是多元回归问题. 本节仅讨论多元线性回归，多元非线性回归通常也可化为多元线性回归来求解和分析。 多元线性回归分析的原理与一元线性回归是类似的. 的最小值， 进一步可以证明，当 H0 为真时，检验统计量 就拒绝 H0i， 说明解释变量Xi对被解释变量的线性作用效果显著。反之，则说明解释变量Xi 对被解释变量的线性作用效果不显著。 在给定解释变量的一组取值 (x01, x02 ,···, x0k )，由回归方程可得回归值 第8.6节 多元回归分析 一、多元线性回归的数学模型 二、多元线性回归参数的最小二乘估计 三、多元线性回归方程的显著性检验 四、多元线性回归系数的显著性检验 五、存在不显著变量的处理 六、预测与控制 一、多元线性回归的数学模型 设被解释变量 Y 与 k 个解释变量 X1, X2, ···, Xk 之间 存在线性相关关系。 则 Y 与 X1, X2, ···, Xk之间的多元 线性回归模型为： Y= a + b1 X1 + b2 X2 + ··· + bkXk + ? (1) 设第 i 次试验数据为 (xi1, xi2 ,···, xik, yi )， 则多元 线性回归有如下数据结构： yi = a + b1 xi1 + b2 xi2 + ··· + bk xik + ?i (2) ?i ～N(0, ? 2 )，且相互独立, i = 1, 2, ···, n 因此多元经验线性回归方程为 得参数 a, b1, ···, bk 的最小二乘估计 同样称 为多元回归方程的回归系数. 二、多元线性回归参数的最小二乘估计 根据最小二乘原理，利用多元函数求极值的方法，求 三、多元线性回归方程的显著性检验 如果变量 Y 与 X1, X2, ···, Xk 之间并无线性关系， 则 模型(1)式中各一次项系数应全为零. 因此要检验的原假 设为 H0：b1 = b2 = ··· = bk = 0 为构造检验 H0 的统计量， 同样需要对总的偏差平 方和 ST 作如下分解： 同样称 SR 为回归平方和， SE 为剩余平方和. = SE + SR 检验过程同样可以列成一张方差分析表，多元回归 方差分析表的格式与一元回归完全相同. 三、多元线性回归方程的显著性检验 在多元回归中， 回归方程显著的结论仅表明模型中各 bj 不全为零， 但并不说明它们全不为零. 也即并不能保证 每个解释变量都对 Y 有重要影响. 如果模型中含有对 Y 无显著影响的变量， 就会降低回归 方程的预测精度和稳定性. 因此，需要从回归方程中剔除对 Y 无显著影响的变量，重新建立更为简单的回归方程. 如果某个变量 Xi 对 Y 的作用不显著， 则模型中bi 就可以 为0，故要检验的原假设为 H0i：bi = 0，i = 1, 2, ···, k 四、多元线性回归系数的显著性检验 四、多元线性回归系数的显著性检验 记 ti 为检验 H0i 的统计量，则当 H0i为真时，统计量 ti ～t (n-k-1)，i = 1, 2,···, k 因此，在给定水平? 下，若 ti t?(n-k-1) 五、存在不显著变量的处理 若经检验， Xi 的作用不显著， 则应从模型中剔除 Xk ， 并重新求解 Y 对余下的 k-1 个变量的回归方程. 若检验中同时存在多个不显著的变量， 则每次只能剔除 一个显著性水平最低的变量， 重新求解新的回归方程. 再对 新的回归系数进行检验， 直至所有变量都显著为止. 当模型中解释变量很多时， 通常会存在较多的不显著 变量， 以上步骤就非常繁琐. 更为有效的方法是对回归变量 用“逐步回归”来求解多元线性回归方程。 六、预测与控制 它是 Y0 = a + b1 X01 + b2 X02 + ··· + bk X0k + ?0 的一个点估计. 1. 预测 建立了多元回归方程并进行了检验后，就可以利用方程进行预测或控制. 且对于Y0 的置信度为 1-? 的预测区间为 其中 六、预测与控制 2.控制 在多元回归情况下， 由于解释变量有多个， 若控制 问题的提法是： 当要求以1-? 的概率将 Y 控制在某一 给定范围内， 问应将各解释变量控制在什么范围内？ 多元回归的控制分析方法与一元回归是完全类似的. 显然此问题可以有无穷多个解， 问题的一般提法是：