多元线性回归预测（副本）.docVIP

多元线性回归预测 在预测中，当预测对象受到多个因素影响时，如果各个影响因素（）与的相关关系可以同时近似地线性表示，这时则可以建立多元线性回归模型来进行分析和预测。 假定因变量与自变量之间的关系可表示为 （2-22） （样本序号） 其中、——模型回归系数；为除自变量的影响之外对产生影响的随机变量，即随机误差。该结论基于以下的假设： 随机误差的期望值为零，； 方差的期望值为一常数，； 各随机误差项是互不相关的，即协方差的数学期望值为零， 当以上假设得到满足时，式（2-22）便称为多元线性回归预测模型，这时可写成 （2-23） 和一元线性回归预测模型一样，多元线性回归预测模型建立时也采用最小二二乘法估计模型参数，但具体估计时有二种算法，分述如下。 一、多元线性回归预测模型的一般算法 1．建立模型 改写式（2-22） 得 方差和Q为 根据最小二乘法原理，欲估计参数，要满足条件： 整理上式可得到： 而对于各变量的样本平均值，其误差平方和为： （2-25） 式中 利用（2-24）式，将方程组（2-25）可改写为 （2-26） 以及 （2-17） 方程组（2-26）叫正规方程组或规范方程式，解该方程组，则得到回归系数，，，…，。即为用最小二乘法原理估计的多元线性预测模型（2-23）的回归系数。从原理上讲，按上述解法，对任意多个自变量的线性回归模型都可估计参数，但由于变量较多时计算工作量大，当自变量大于3个时，手工计算已很困难，宜用矩阵解法在计算机上计算。 如二元线性回归预测模型。 有正规方程为 解该方程组， 有 （2-28） 同理 （2-29） （2-30） 式中 （2-31） 2．统计检验 （1）剩余标准差计算 （2-32） ——自变量个数 为了方便统计检验，先计算离差计算表。 （2）相关系数检验 （2-33） （3）F检验 （2-34） （4）检验 检验是通过对回归系数的逐一检验，以判断是否因系数为零而必须予以删除。 （2-35） 然后设定显著性水平，查分布表，取自由度，得到检验值。 当时，检验通过。 当时，说明所选自变量对影响不显著，或者自变量间存在多重共线性，应该予以剔除或作某种处理。 设为回归系数的标准差 按下列公式计算： （2-36） 式中：——正规方程系数矩阵的逆矩阵中的行列元素。 按照伴随矩阵求逆矩阵的方法，其逆矩阵 因为 所以有 （2-37） 在多元线性回归预测中，检验是判断全部自变量的整体作用与因变量的线性关系是否显著，而检验则是检验每一个自变量与因变量的线性关系是否显著。所以，在多元线性回归预测中，检验比检验更有必要。因为根据检验的结果，可以判断那些对因变量线性关系不显著的自变量，从而予以剔除，重新建立回归模型。 （5）检验 多元线性回归检验和一元线性回归预测一样按（2-18）式计算 （6）预测区间的确定 按照正态分布理论，当置信度为95%时，预测区间为 上限 下限 （2-38） 对于某组自变量的取值为，，…，，代入上式，则可求得该预测区间为（）。 二、多元线性回归方程的矩阵解法 1．建立预测模型 当已知组自变量和因变量的观测值时，（2-22）式可用矩阵形式写成 （2-39） 式中 为因变量列向量，即的个数，为自变量矩阵，即个自变量与对应的组数据，为回归系数向量，而为随机误差向量。取随机误差向量， 有 因为在矩阵中，一般，因而无法求逆，为了求解，两边同时左乘的转置矩阵得 而为方阵，可求逆，这时可得 即有多元线性回归预测模型系数估计公式 （2-40） 2．多元线性回归模型的统计检验 （1）标准误差检验 多元线性回归预测模型标准差检验有因变量标准差检验和各回归系数标准差检验。 （）因变量标准差检验 计算公式为 （2-41） 式中，为自变量个数，为样本数。 （）各个回归系数标准差检验计算公式为