第五章 线性回归与相关.ppt

1. 多元线性回归的数学模型(Mathematical model of multiple regression) 试验号 设变量 y 与另外 p 个变量 x1, x2, …, xp 的内在关系是线性的，如果做了 N 次试验，其结果如下表： 上表中的数据可以假定具有如下数学模型： 即 试验号 或者 式中 是待估计参数， 是N个独立且服从正态分布 的随机变量。 ① ② ①、②称为多元线性回归的数学模型。 用试验结果进行估计时，可得相应的多元线性回归方程为： 式中 b0 为常数项，bj 为 y 对 xj 的偏回归系数，它是表示当其它 x 固定不变时，xj 变化一个单位而使 y 平均变化的数值。 如果令： 则模型可以写成矩阵形式: 多元线性回归 的数学模型: 则模型可以写成矩阵形式: N× 1 N× (p+1) (p+1)× 1 N× 1 Why? 2. 多元线性回归方程的建立 确定直线方程的原则： 确定 b0 及 bj 值： 欲使建立的回归方程最好，须使 和 之间的差异最小。 = 最小 要使 则有： = 最小， 即 上式及本式称为正规方程组 (Normal equations). 对正规方程组求解，即得b0, bj. 如果令A为正规方程组的系数矩阵，即 ： (p+1) × (p+1)