系统工程主成分分析.pptVIP

基本思想 如果第一主成分所含信息不够多，还不足以代表原始的n个变量，则需考虑再使用一个综合变量Z2=a2X, 且： 使Z2方差达到最大。则，Z2为第二主成分 主成分分析的目的 主成分分析旨在利用降维的思想，把多指标转化为少数几个综合指标。在实证问题研究中，为了全面、系统地分析问题，我们必须考虑众多影响因素。这些涉及的因素一般称为指标，在多元统计分析中也称为变量。因为每个变量都在不同程度上反映了所研究问题的某些信息，并且指标之间彼此有一定的相关性，因而所得的统计数据反映的信息在一定程度上有重叠。在用统计方法研究多变量问题时，变量太多会增加计算量和增加分析问题的复杂性，人们希望在进行定量分析的过程中，涉及的变量较少，得到的信息量较多。 主成分分析法通过研究指标体系的内在结构关系，从而将多个指标转化为少数几个相互独立且包含原来指标大部分信息（80%或85%以上）的综合指标。其优点在于它确定的权数是基于数据分析而得出的指标之间的内在结构关系，不受主观因素的影响，有较好的客观性，而且得出的综合指标（主成分）之间相互独立，减少信息的交叉，这对分析评价极为有利。 案例分析 教学要求 理解主成分分析的基本思想 掌握主成分分析的计算方法 了解样本主成分选择及原指标对主成分回归 系统工程导论 自动化学院系统工程课程组 §3 主成分分析及聚类分析 * 主成分分析 大规模复杂系统的变量都较多，这增加了分析问题的难度与复杂性，很多情况下多个变量之间具有一定的相关关系 能否在相关分析的基础上，用较少的新变量代替原来较多的旧变量，而且使这些较少的新变量尽可能多地保留原来变量所反映的信息 主成分分析方法就是综合处理这种问题的一种强有力的工具。主成分分析是把原来多个变量划为少数几个综合指标的一种统计分析方法 * 主成分分析是把各变量之间互相关联的复杂关系进行简化分析的方法。 主成分分析试图在力保数据信息丢失最少的原则下，对多变量的数据进行最佳综合简化，也就是说，对高维变量空间进行降维处理。 * 一个简单的例子 成绩的评估可以用下面的综合成绩来体现： a1×数学＋a2×语文＋a3×英语＋a4×体育 确定权重系数的过程就可以看作是主成分分析的过程，得到的加权成绩总和就相对于新的综合变量——主成分 当某一问题需要同时考虑好几个因素时，我们并不对这些因素个别处理而是将它们综合起来处理，这就是主成分分析 * 基本思想 如果用x1, x2 , …, xn表示n门课程， a1, a2 ,…, an表示各门课程的权重，且满足 ，那么加权之和就是： s= a1x1+ a2x2+…+ anxn 我们希望选择适当的权重能更好地区分学生的成绩，每个学生都对应一个这样的综合成绩。记为s1, s2 , …, sm。 m为学生人数。如果这些值很分散，表明区分得好。 而方差反映了随机变量取值的分散程度。因此，我们把方差最大那一组系数与课程成绩的内积所构成的向量（形为Z1=a1X）称为第一主成分 * 主成分分析步骤 设n个随机变量取得的一组（m个）样本为 * （1）对样本进行标准化处理 * （2）计算样本协方差矩阵（样本相关系数矩阵） 协方差数据矩阵的每一列对应一个变量的m个量测值，任意两列之间可以计算两变量间的协方差 * 当分析中所选择的变量具有不同的量纲，变量水平差异很大，应该计算样本相关系数（选择基于相关系数矩阵的主成分分析） * （3）计算特征值和特征向量 * （4）计算各主成分 利用所得单位化特征向量，构造一个正交矩阵a * 对于m个样本中的第k个样本，由Zi=aiX，可得到n个主成分 * 主成分选择 1）贡献率：若λi为协方差矩阵的第i个特征根，则 ，称为第i个主成分的贡献率 ，反映了原来n个指标多大的信息，有多大的综合能力 。 2）累积贡献率：前k个主成分共有多大的综合能力，用 来描述，称为第k个主成分的累积贡献率。 * 我们进行主成分分析的目的之一是希望用尽可能少的主成分Z1，Z2，…，Zp（p≤n）代替原来的n个指标。到底应该选择多少个主成分，在实际工作中，主成分个数的多少取决于能够反映原来变量80%以上的信息量为依据，即当累积贡献率≥80%时的主成分的个数就足够了。 * * * * * * Thank You!