第三回归分析演示文稿.pptVIP

因此可见，回归方程中增加一个变量后，回归平方和的增加量等于偏差平方和的减少量，即： 增加量ΔQ 是变量 H 引入回归方程后，对 t 引起的波动，称为变量H 对变量 t 的方差贡献。 一般情况下，把变量xkα的方差贡献记为Vkα，它是衡量变量xkα对y作用大小的一个指标。 下面讨论这个指标达到多大时 ，xkα才被引入的问题。 当前第31页\共有64页\编于星期三\8点 统计量: 服从F(1, n – l - 2 ) 分布。 2.检验变量xkα对y作用大小的方法 (1)检验xkα是否选入(引入) 假设 H0：变量xkα对y作用不显著(作用不大) 式中 n—样品数；l—回归方程中已选入的自变量个数。 给定检验水平α(H0成立的概率) ，查F分布表得一个临界值，记为F1 。 方程中已有l个变量，再增加xkα时的方差贡献 l+1个变量的偏差平方和 当前第32页\共有64页\编于星期三\8点 (2) 检验xkα是否剔出 假设H0(同前) 统计量: 当Fkα F1时,则否定原假设,说明原假设不成立,应把变量xkα引入回归方程，否则引入变量结束。 服从F(1, n – l - 1 ) 分布。 式中 n—样品数(数据组数)；l—回归方程中已选入的自变量个数。 方程中已有l个变量，其中xkα的方差贡献。 l个变量的偏差平方和 当前第33页\共有64页\编于星期三\8点 对检验方法的解释 做一次检验相当于进行了一次随机试验, 而试验中统计量落在拒绝域(如Fkα F1)的理论概率为α。一旦统计量的计算结果落在拒绝域，则意味小概率事件在一次试验即发生，这说明最初的假设H0是不合理的，应该否定。 给定显著性检验水平α，查F分布表得临界值F2 ，若F’kα F2，则否定H0 ,即xkα对y作用大，将其留在回归方程中，否则接受假设H0，从方程中去掉变量xkα。 当前第34页\共有64页\编于星期三\8点 知识复习 高斯消去法解线性方程组 一般的n阶线性方程组可表示如下： 若(1)有解，那么利用矩阵变换求解的过程如下： 1.消元 方程组系数矩阵 常 数 项 当前第35页\共有64页\编于星期三\8点 方程组系数矩阵 常数项 第1步 设 第2步 设 当前第36页\共有64页\编于星期三\8点 第 n 步 设 经过n次消去计算，得到一个与(1)等价的方程组： 当前第37页\共有64页\编于星期三\8点 2.回代 ①由式(2)的第n个方程得 ②把 代入式(2)的第n-1个方程得 ③再把xn、xn-1代入式(2)的第n-2个方程求出xn-2 ，如此逐个回代，可求出方程组的解。 上述求解过程可以总结成如下变换公式： 当前第38页\共有64页\编于星期三\8点 kα ┅消去变换的自变量号； N ┅消去变换的次数(步数)。 当前第39页\共有64页\编于星期三\8点 rij riy 求回归系数的m阶线性方程组为： 令 而 为避免sij的较大波动给求解带来舍入误差 整理后原方程变为： 三、实现逐步回归的变换公式 当前第40页\共有64页\编于星期三\8点 1.相关系数增广矩阵 因此 其中 ri m+1=riy 逐步回归是通过对变量的相关系数增广矩阵实施一系列高斯求解变换来实现逐步引入和剔除变量的，并最终求出回归方程。 方程组系数矩阵 (相关系数矩阵) 当前第41页\共有64页\编于星期三\8点 把方程组系数矩阵增加一行一列,得矩阵R: R 称之为相关系数增广矩阵。 当前第42页\共有64页\编于星期三\8点 逐步回归分析求解回归方程就是对R实施一系列高斯求解变换。设已进行了N步，引入了l个变量xk1’, xk2’, …, xkl’，它的第N+1步不论是引入还是剔除变量xkα’ , 都是根据式(3-9)对R中的元素进行变换来实施。并得到第N+1步的变换矩阵。 2.逐步回归的变换公式 当前第43页\共有64页\编于星期三\8点 式中rij(N)、rij(N+1)—分别是第N步、第N+1步变换矩阵R(N)和R(N+1)中的元素。 1.方差贡献 在第N步回归的基础上，第N+1步不论是引入还是剔除变量xkα，它的方差贡献按下式计算： 设逐步回归进行N 步，引入l 个变量 对应的回归方程为： 四、方差贡献、偏差平方