第十一章 多元线性回归和相关分析.docVIP

第十一章 多元线性回归和相关分析 第一节 多元回归分析 依变量依两个或两个以上自变量的回归，称为多元回归或复回归(multiple regression) 主要内容：1、确定各个自变量对依变量的综合效应和单独效应，即建立由各自变量描述和预测依变量反应量的多元回归方程；2、对上述综合效应和单独效应的显著性进行测验，建立最优多元回归方程；评价各自变量对依变量的相对重要性。 一、多元回归方程 1、多元回归的线性模型和多元回归方程式 一个m元线性回归总体的线性模型为： yj= (0+ ( 1x1j+ ( 2x2j+…+ ( mxmj+(j 其中，(j~N( 0,((2) 一个m元线性回归样本观察值的组成为： yj= b0+b1x1j+b2x2j+…+bmxmj+ej 同理一个m元线性回归方程可给定为： b0是x1、x2、…、xm都为0时y的点估计值； b1是by1.23…m的简写，它是在x2，x3，…，xm皆保持一定时（取常量），x1每改变一个单位时对y的效应，称为x2，x3，…，xm不变时，x1对y的偏回归系数（partial regression coefficient） 。 2、多元回归统计数的计算 多元线性回归资料的数据结构如下表： m个自变量与依变量y的回归方程为： 根据最小二乘法原理， b0 、b1、 b2、……bm应使全部观察值y与回归估计值 的偏差平方和为最小， 即使 根据微分学中的极值原理，分别对b0 、b1、 b2、……bm偏导，并令其为0，即 该方程组称为正规方程组，可尽一步化为 N b0 + b1?x1 + b2?x2 + b3?x3 + ……+ bm?xm =?y b0?x1+ b1?x12+ b2?x1x2 + b3?x1x3 + ……+ bm?x1xm =?x1y b0?x2+ b1?x1x2+ b2?x22 + b3?x2x3 + ……+ bm?x2xm =?x2y ………… b0?xm+ b1?x1xm+ b2?x2xm + b3?x3xm + ……+ bm?xm2 =?xmy 写成矩阵形式： A b B 系数矩阵 偏回归系数矩阵 常数项矩阵 即 Ab = B 系数矩阵A = X (X，n组数据的 称为结构矩阵或数据矩阵 这样一来，正规方程组的矩阵形式是 (X(X)b = X (Y 或 Ab = B 其中b ( = (b0, b1, b2, …bm)是正规方程组中的未知数。在系数矩阵满秩的条件下(这个条件在一般情况是容易满足的)，A的逆阵存在，因而 b=A-1B=(X (X)-1X (Y C=A-1=(X (X)-1称为相关矩阵 (例11.1)通过12个北方春玉米杂交种的测定数据(见表11.3)，研究在相同密度下每穗粒数(X1，粒)、百粒重 (X2，g)、株高(X3，cm)与每公顷玉米籽粒产量(Y，kg/hm2)的关系。试建立每穗总粒数、百粒重、株高对每公顷玉米产量的多元线性回归方程； 解：用矩阵法求解多元线性回归方程 ① 写出结构矩阵或数据矩阵X及依变量列矩阵Y ② 利用公式A =X (X ，B = X (Y，求得系数矩阵A和常数项矩阵B ③ 求系数矩阵A的逆矩阵C ④求解偏回归系数矩阵b = ( b0、b1、b2、…、bm)′ 即 b0 = – 2829b1 = 14b2 = 238b3 = – 15⑤ 写出线性回归方程 式中：自变量X1对应的偏回归系数b1 = 14.9，表明在百粒重(X2)、株高(X3)保持平均水平(= Σx2/n = 403/12 = 33.55g；= Σx3/n = 3401/12 = 283.4cm)时，每穗总粒数(X1)每增加1(粒)，将使每公顷玉米籽粒产量(Y)平均增加14.9 (kg)； 同理，b2 =238.2，表明在每穗总粒数(X1) 、株高(X3)保持平均水平(= Σx1/n = 6177/12 = 514.8粒; = 283.4cm)时，百粒重(X2)每增加1(g)，将使每公顷玉米产量(Y)平均增加238.2 (kg)；b3 = –15.3，表明在每穗总粒数(X1) 、百粒重(X2)保持平均水平(= 514.8粒; = 33.55g )时，株高(X3)每增加1(cm)，将使每公顷玉米