5.4多元线性回归的参数估计.docVIP

§5.4 多元线性回归中的参数估计 多元回归模型 设自变量是可控变量，因变量是随机变量，它们之间具有统计相关关系，若 ， （5.4-1） 则称（5.4-1）式为元回归模型。 ， （5.4-2） 则称（5.4-2）式为元线性回归模型。 ， （5.4-3） 则称（5.4-3）式为元正态线性回归模型。 取，称为元线性回归（平面）方程。未知参数 称为回归系数。 对变量;作次（）观测，得到观测值，即有 观测变量 观测次数 1 2 n 于是模型（5.4-3）又化为 则称（5.4-4）式为元正态线性回归的观测值模型。 为表达方便，在寻求模型（5.4-4）式的矩阵表示，记 ，，， 则模型（5.4-4）又化为 其中维正态随机变量的期望向量为 协方差矩阵为 显然 对于元正态线性回归分析，仍有以下三方面工作： ①估计未知参数,； ②对模型的假设检验和对参数的假设检验； ③在处对作预测。 多元线性回归中的参数估计 （1）的最小二乘估计 给定，相应的满足模型（5.4-4），从而 以近似的观测值时产生的均方误差为 如有使，则称为的最小二乘估计。为求，令 即 （5.4-8）式称为正规方程组。其矩阵形式为 即 亦即