建模教材第6章.docVIP

第六章 多元统计分析 多元统计分析内容广泛，通常包括回归分析、方差分析、判别分析、聚类分析、主成分分析、因子分析、典型相关分析、对应分析等内容，限于篇幅，本章主要介绍回归分析、判别分析、聚类分析中的部分内容。 §1 多元回归分析 回归分析是研究随机变量之间相关关系的一种统计方法。通过对变量实际观测的分析、计算，建立一个变量与另一个（或一组）变量的定量关系即回归方程，经统计检验认为回归效果显著后，可用于预测与控制。 回归分析在许多科学领域中都有广泛的应用，如经济中的产品销售量预测，农业中的病虫害或收成预测，自然现象中的地震、洪水、滑坡预测等等。回归分析内容包括广泛，本节主要介绍多元线性回归。 设随机变量与变量有关，则其元线性回归模型为： (6.1) 其中是随机误差服从正态分布。为回归系数。 回归分析的主要步骤是： 1 由观测值确定参数（回归系数）的估计值。 2 对线性关系、自变量的显著性进行统计检验。 3 利用回归方程进行预报和控制。 一．回归系数的最小二乘估计 对及作次抽样得到组数据: 代入(6.1)，于是有 (6.2) 其中是遵从正态分布的个相互独立同分布的随机变量()。 设分别为参数的估计值,则得回归方程 (6.3) 其中,为样本值;为回归方程所给出的值,称为回归值。称()为残差，它可划了样本值与回归值的偏差。根据最小二乘法使残差平方和达到最小,即为最小,根据微积分的极值原理必须满足: () 即 (6.4) 由(6.4)式得到: (6.5) 其中 , (6.6) 将代入(6.4)中各式得到一线性方程组: (6.7) 其中: (6.8) (6.9) 记 为线性方程组的系数矩阵。 由方程组(6.7)解出 ,并由(6.5)式解出代入(6.3)式即得多元回归方程。 二． 回归方程和回归系数的检验 前面是在假定随机变量与变量具有线性关系的条件下建立线性回归方程的。但变量与变量是否为线性关系？所有的变量对变量是否都有影响？需要作统计检验。 记 为总的离差平方和，其自由度为f总=。可分解为 (6.10) 其中 自由度为fU =p 自由度为fQ=n-p-1 检验回归方程的显著性的等同于检验假设 H0: (6.11) 作统计量 (6.12) 给定检验水平α：查表得，　如果＞回归方程效果显著；回归方程效果不显著。 检验因子的显著性的等同于检验假设 H0: 作统计量　　 (6.13) 其中，是系数矩阵Ｓ的逆矩阵Ｓ－１的第行列的元素。 给定检验水平α：查表得，如果，因子的作用显著； 因子的作用不显著，去掉因子重新建立回归方程。 三．回归方程的预测和控制 对于给定的,利用回归方程可进行预测，将点代入回归方程，得到，用作为的估计。也可以进行区间估计，记，则落在或者内的概率分别为何９５％和９９％． 四．计算步骤 （1）计算与 （2）解方程组(6.7)计算回归系数得到回归方程。 （3）计算总离差平方和、回归平方和、剩余平方和，检验回归方程及回归系数的显著性。 （4）进行预测与控制。 五．应用实例 例6.1 建立某地区某类商品的需求量（单位：件）受该地区消费者的平均收入（单位：元）与该商品的零售价格（单位：元）的线性回归关系式。原始数据如下表： 表6-1 1000 600 1200 500 300 400 1300 1100 1300 300 5 7 6 6 8 7 5 4 3 9 100 75 80 70 50 65 90 100 110 60 解 ，，由所给数据算得 ，；；，，； ， 代入方程组(6.7)解得的最小二乘估计值分别为：111.6892，0.0143，-7.1882，所以所求的回归方程为