数学建模方法详-16种常用算法.doc

数学建模方法详解--三十四种常用算法 目录 一、主成分分析法 2 二、因子分析法 5 三、聚类分析 9 四、最小二乘法与多项式拟合 16 五、方差分析法 22 六、逼近理想点排序法 27 七、动态加权法 28 八、灰色关联分析法 30 九、灰色预测法 32 十、模糊综合评价 34 十一、时间序列分析法 36 十二、蒙特卡罗(MC)仿真模型 41 十三、BP神经网络方法 43 十四、数据包络分析法（DEA） 50 十五、多因素方差分析法（基于SPSS） 53 十六、拉格朗日插值 69 一、主成分分析法 一）、主成分分析法介绍： 主成分分析（principal components analysis，PCA）又称：主分量分析，主成分回归分析法旨在利用降维的思想，把多指标转化为少数几个综合指标。它是一个线性变换。这个变换把数据变换到一个新的坐标系统中，使得任何数据投影的第一大方差在第一个坐标(称为第一主成分)上，第二大方差在第二个坐标(第二主成分)上，依次类推。主成分分析经常用减少数据集的维数，同时保持数据集的对方差贡献最大的特征。这是通过保留低阶主成分，忽略高阶主成分做到的。这样低阶成分往往能够保留住数据的最重要方面。但是，这也不是一定的，要视具体应用而定。 在实证问题研究中，为了全面、系统地分析问题，我们必须考虑众多影响因素。这些涉及的因素一般称为指标，在多元统计分析中也称为变量。因为每个变量都在不同程度上反映了所研究问题的某些信息，并且指标之间彼此有一定的相关性，因而所得的统计数据反映的信息在一定程度上有重叠。在用统计方法研究多变量问题时，变量太 多会增加计算量和增加分析问题的复杂性，人们希望在进行定量分析的过程中，涉及的变量较少，得到的信息量较多。主成分分析正是适应这一要求产生的，是解决这类题的理想工具。 为第 j个指标对应于第 个主成分的初始因子载荷， 为第 l个主成分对应的特征值 根据主成分表达式得出综合得分模型： 四）、主成分分析法的基本原理： 主成分分析法是一种降维的统计方法，它借助于一个正交变换，将其分量相关的原随机向量转化成其分量不相关的新随机向量，这在代数上表现为将原随机向量的协方差阵变换成对角形阵，在几何上表现为将原坐标系变换成新的正交坐标系，使之指向样本点散布最开的p 个正交方向，然后对多维变量系统进行降维处理，使之能以一个较高的精度转换成低维变量系统，再通过构造适当的价值函数，进一步把低维系统转化成一维系统。概括起来说，主成分分析主要由以下几个方面的作用。 1．主成分分析能降低所研究的数据空间的维数。即用研究m维的Y空间代替p维的X空间(m＜p)，而低维的Y空间代替 高维的x空间所损失的信息很少。即：使只有一个主成分Yl(即 m＝1)时，这个Yl仍是使用全部X变量(p个)得到的。例如要计算Yl的均值也得使用全部x的均值。在所选的前m个主成分中，如果某个Xi的系数全部近似于零的话，就可以把这个Xi删除，这也是一种删除多余变量的方法。 2．有时可通过因子负荷aij的结论，弄清X变量间的某些关系。 3．多维数据的一种图形表示方法。我们知道当维数大于3时便不能画出几何图形，多元统计研究的问题大都多于3个变量。要把研究的问题用图形表示出来是不可能的。然而，经过主成分分析后，我们可以选取前两个主成分或其中某两个主成分，根据主成分的得分，画出n个样品在二维平面上的分布况，由图形可直观地看出各样品在主分量中的地位，进而还可以对样本进行分类处理，可以由图形发现远离大多数样本点的离群点。 4．由主成分分析法构造回归模型。即把各主成分作为新自变量代替原来自变量x做回归分析。 5．用主成分分析筛选回归变量。回归变量的选择有着重的实际意义，为了使模型本身易于做结构分析、控制和预报，好从原始变量所构成的子集合中选择最佳变量，构成最佳变量集合。用主成分分析筛选变量，可以用较少的计算量来选择量，获得选择最佳变量子集合的效果。1、原始指标数据的标准化采集p 维随机向量x = (x1,X2,...,Up)T)n 个样品xi = (xi1,xi2,...,dip)T ，I=1,2,…,n， n＞p，构造样本阵，对样本阵元进行如下标准化变换： 其中，得标准化阵Z。 2、对标准化阵Z 求相关系数矩阵 其中, 。 3、解样本相关矩阵R 的特征方程得p 个特征根,确定主成分 按 确定m 值，使信息的利用率达85%以上，对每个job, j=1,2,...,m, 解方程组Rib = job得单位特征向量 。 4、将标准化后的指标变量转换为主成分 U1称为第一主成分,U2 称为第二主成分,…,Up 称为第p 主成分。 5 、对m 个主成分进行综合评价 对m 个主成分进行加权求和，即得最