主成分分析方法课件.ppt

特征向量的方向由I、II中包括的两个数字控制 第一主成分Z1的方差为37.9，第二主成分Z2的方差为6.5。两者之和恰为X1和X2的总方差44.4。可见，两个主成分Z1、Z2所代表的信息分别为86%和14%。如果用Z1代表原来的数据,则仅损失信息14%。但若用X1和X2来代表原来的数据，则将损失信息46%或54%。 3、主成分得分的计算 根据（8-3）式，得到主成分的表达式为 原始数据的主成分得分 Z1 Z2 Z1 Z2 3.48 0.93 15.42 2.4 10.14 -3.6 16.17 1.74 7.71 1.2 13.08 5.79 9.96 -0.78 19.08 0.51 11.46 -2.1 19.83 -0.15 6.12 3.93 21.33 -1.47 14.37 -3.33 14.49 5.88 12.03 0.06 19.65 2.67 9.69 3.45 20.97 4.17 11.94 1.47 23.97 1.53 16.44 -2.49 26.13 0.96 11.85 2.88 28.2 1.8 16.26 0.33 二、主成分分析的步骤 对原始地理数据 进行标准化处理（标准差标准化），即 其中 计算相关系数矩阵R 计算特征值和特征向量 根据特征方程 计算特征值，即解 的特征多项式，求 并使特征值按从大到小的顺序排列，即 列出关于每个特征值的特征向量 计算主成分贡献率及累计贡献率 ▲贡献率: ▲累计贡献率: 一般取累计贡献率达85—95%的特征值 所对应的第一、第二、…、第m（m≤p）个主成分 计算主成分载荷(主成分Zk与变量xi之间的相关系数) 　　　 各主成分的得分： §3 特征值与特征向量的计算方法 雅可比法 适合于对称矩阵 任一实对称矩阵A，均存在一正交变换矩阵T，使 那么 就是A的特征向量，T的列向量就是相应的特征向量 二维情况 如令 则 将原始矩阵A化成了对角矩阵 。 由于T是正交阵，A和Λ对角线元素之和都等于a11+a22 主成分分析方法 问题的提出 地理系统是多要素的复杂系统。变量太多，会增加分析问题的难度与复杂性，而且多个变量之间是具有一定的相关关系的 能否在相关分析的基础上，用较少的新变量代替原来较多的旧变量，而且使这些较少的新变量尽可能多地保留原来变量所反映的信息？ 主成分分析方法就是综合处理这种问题的一种强有力的工具。主成分分析是把原来多个变量划为少数几个综合指标的一种统计分析方法。从数学角度来看，这是一种降维处理技术 §1 主成分分析方法的基本原理 假定有n个地理样本，每个样本共有p个变量，构成一个n×p阶的地理数据矩阵 当p较大时，在p维空间中考察问题比较麻烦。为了克服这一困难，就需要进行降维处理. 要求：较少的几个综合指标尽量多地反映原来较多变量指标所反映的信息，同时它们之间又是彼此独立的 例，成绩数据 100个学生的数学、物理、化学、语文、历史、英语的成绩如下表（部分）。 对于多维变量的情况和二维类似，也有高维的椭球，只不过无法直观地看见 首先把高维椭球的主轴找出来，再用代表大多数数据信息的最长的几个轴作为新变量；这样，主成分分析就基本完成 注意，和二维情况类似，高维椭球的主轴也是互相垂直的。这些互相正交的新变量是原先变量的线性组合，叫做主成分. 正如二维椭圆有两个主轴，三维椭球有三个主轴一样，有几个变量，就有几个主成分 选择越少的主成分，降维就越好。什么是标准呢？那就是这些被选的主成分所代表的主轴的长度之和占了主轴长度总和的大部分。有些文献建议，所选的主轴总长度占所有主轴长度之和的大约85%即可，其实，这只是一个大体的说法；具体选几个，要看实际情况而定 定义：记x1，x2，…，xP为原变量指标，z1，z2，…，zm（m≤p）为新变量指标 系数lij的确定原则： zi与zj（i≠j；i，j=1，2，…，m）相互无关 z1是x1，x2，…，xP的一切线性组合中方差最大者，z2是与z1不相关的x1，x2，…，xP的所有线性组合中方差最大者；…… zm是与z1，z2，……，zm－1都不相关的x1，x2，…xP， 的所有线性组合中方差最大者。则新变量指标z1，z2，…，zm分别称为原变量指标x1，x2，…，xP的第一，第二，…，第m主成分 从以