第四章线性回归分析.ppt

可以证明 (10) 即 可以分解为两部分: 回归平方和 与残差平方和 . 反映了由于自变量x的变化引起的因变量y的差异，体现了x对y的影响； 反映了其它因素对y的影响, 这些因素没有反映在自变量中, 它们可作为随机因素看待. 可见, ／ 为x 的影响部分与随机因素影响部分的相对比值. 其作用和随机因素的作用相当, 于是由数据得到的回归方程就没有什么意义. 若该比值不是显著地大, 表明我们所选的 x 并不是一个重要的因素. 通常可假设H0 ：y和x没有线性相关关系，对回归方程是否有意义进行显著性检验. (11) 因此用 易证: ~F(1，n-2) (12) 的关系式中b=0时, 有 当 来检验b的绝对值是否显著大于0 (或者说检验回归方程 是否有意义). 给定显著性水平, 通过查F分布分位数表, 求出否定域, 便可判断回归方程是否有意义. 拒绝域为： 由上面的讨论可知, 要问回归方程是否有意义, 就是要检验假设 H0: b=0 ; H1: b≠0 使用的检验统计量为: ~F(1，n-2) (14) (13) 回归平方和 与残差平方和 的计算： 当检验认为回归方程确有意义. 则可用来进行予测或控制, 这也是建立回归方程的重要目的. 3．预测 对给定的x值，由回归方程 就可得 的值. 小结 y = a + b x +ε 一元线性回归模型: 回归系数 一元线性回归方程: 无偏估计 下面讨论多元线性回归. 它是处理多个变量之间关系的模型. 第二节 一般地，设影响试验结果的因素为 x1，……，xp ，它们是可以精确测量或可控制的一般变量，y是可观测的随机变量，ε～N(0,σ2)是不可测的随机误差。p元线性回归模型为 y=β0 +β1 x1+…+ βp xp+ε yi=β0 +β1 xi1+…+ βp xip+εi ,(i=1,2,…,n) 若获得了n组独立观测样本值： (yi；xi1，…，xip)，（i=1,…,n），则有 εi～i.i.d. N(0,σ2) 对p元线性回归模型，研究以下三个问题： 1) 据样本观测值估计未知参数β0 ,β1 ,…, βp ;σ2 。建立y与x1,…,xp的数量关系式（回归方程）； 2) 对此数量关系式的可信度进行统计检验; 3) 检验各变量x1,…,xp分别对指标y是否有显著影响 1.参数估计 ,为此令 得正规方程组 称此方程组的解 为未知参数 β0 ,β1 ,…, βp 的最小二乘估计。 为方便起见，设 结构矩阵 则上述正规方程组可改写为 X′X 称为系数矩阵，是(p+1) ×(p+1)方阵 X′Y 称为常数项矩阵，是(p+1) ×1 的列向量 残差: 残差(列)向量: 残差平方和 （剩余平方和） 残差平方和性质： 至此，第一个问题已得到解决，即 下面看第二个问题：回归方程的显著性检验 2. 回归方程的显著性检验 平方和分解： 其中 检验问题： 说明得到的回归方程是显著的。 3.回归系数的显著性检验 即认为第j个变量xj对指标值y的影响显著。 例 铁水的总含碳量在不断降低。一炉钢在冶炼初期总的去碳量 y 与所加的二种矿石的量 x1 , x2 及熔化时间 x3 有关。经实测某号平炉得如下表的49组数据。由经验知 y 与 x1, x2 及 x3 之间有数据结构式 y =β0+β1 x1+β2 x2+β3 x3+ε，ε~N(0 , σ2)。求β0、β1、β2、β3的最小二乘估计，写出回归方程，并求出σ2 的估计。 编 号 x1 槽 x2 槽 x3 5分钟 y 吨 编 号 x1 槽 x2 槽 x3 5分钟 y 吨 1 2 18 50 4.3302 26 9 6 39 2.7066 2 7 9 40 3.6485 27 12 5 51 5.6314 3 5 14 46 4.483 28 6 13 41 5.8152 4 12 3 43 5.5468 29 12 7 47 5.1302 5 1 20 64 5.497 30 0 24 61 5.391 6 3 12 40 3.1125 31 5 12 37 4.4533 7 3 17 64 5.1182 32 4 15 49 4.6569 8 6 5 39 3.8759 33 0 20 45 4.5212 9 7 8 3