第三章第5节主成分课题.ppt

第5节 主成分分析 主成分分析的基本原理 主成分分析的解法 主成分分析方法应用实例 问题的提出 地理系统是多要素的复杂系统。在地理学研究中，多变量问题是经常会遇到的。变量太多，无疑会增加分析问题的难度与复杂性，而且在许多实际问题中，多个变量之间是具有一定的相关关系的。 能否在相关分析的基础上，用较少的新变量代替原来较多的旧变量，而且使这些较少的新变量尽可能多地保留原来变量所反映的信息？ 主成分分析方法就是综合处理这种问题的一种强有力的工具。主成分分析是把原来多个变量划为少数几个综合指标的一种统计分析方法。从数学角度来看，这是一种降维处理技术。 例，成绩数据 100个学生的数学、物理、化学、语文、历史、英语的成绩如下表（部分）。 从本例可能提出的问题 目前的问题是，能不能把这个数据的6个变量用一两个综合变量来表示呢？ 这一两个综合变量包含有多少原来的信息呢？ 能不能利用找到的综合变量来对学生排序呢？这一类数据所涉及的问题可以推广到对企业，对学校进行分析、排序、判别和分类等问题。 例中的数据点是六维的；也就是说，每个观测值是6维空间中的一个点。我们希望把6维空间用低维空间表示。 先假定只有二维，即只有两个变量，它们由横坐标和纵坐标所代表；因此每个观测值都有相应于这两个坐标轴的两个坐标值；如果这些数据形成一个椭圆形状的点阵（这在变量的二维正态的假定下是可能的）。 那么这个椭圆有一个长轴和一个短轴。在短轴方向上，数据变化很少；在极端的情况，短轴如果退化成一点，那只有在长轴的方向才能够解释这些点的变化了；这样，由二维到一维的降维就自然完成了。 当坐标轴和椭圆的长短轴平行，那么代表长轴的变量就描述了数据的主要变化，而代表短轴的变量就描述了数据的次要变化。 但是，坐标轴通常并不和椭圆的长短轴平行。因此，需要寻找椭圆的长短轴，并进行变换，使得新变量和椭圆的长短轴平行。 如果长轴变量代表了数据包含的大部分信息，就用该变量代替原先的两个变量（舍去次要的一维），降维就完成了。 椭圆（球）的长短轴相差得越大，降维也越有道理。 对于多维变量的情况和二维类似，也有高维的椭球，只不过无法直观地看见。 首先把高维椭球的主轴找出来，再用代表大多数数据信息的最长的几个轴作为新变量；这样，主成分分析就基本完成。 注意，和二维情况类似，高维椭球的主轴也是互相垂直的。这些互相正交的新变量是原先变量的线性组合，叫做主成分。 正如二维椭圆有两个主轴，三维椭球有三个主轴一样，有几个变量，就有几个主成分。 选择越少的主成分，降维就越好。什么是标准呢？那就是这些被选的主成分所代表的主轴的长度之和占了主轴长度总和的大部分。有些文献建议，所选的主轴总长度占所有主轴长度之和的大约85%即可，其实，这只是一个大体的说法；具体选几个，要看实际情况而定。 一、主成分分析方法的基本原理 假定有n个地理样本，每个样本共有p个变量，构成一个n×p阶的地理数据矩阵。 主成分分析的几何意义 主成分分析的过程就是坐标系旋转的过程，各主成分就是新坐标与原坐标的转换关系，在新坐标系中，各坐标轴的方向就是原始数据变差最大的方向。 主成分分析的实质就是要求出方差—协方差矩阵的特征向量及其对应的特征值，即要找出方差—协方差矩阵所确定的椭球的主轴，并确定其长度。 方差—协方差阵的特征向量表示主轴的方向，而其对应的特征值表示主轴的长度。 例如6个样方、2个种的多度数据是： 数据的中心化 中心化后的原始数据矩阵 把坐标轴X1、X2刚性地旋转一个角度，得到图中虚线表示的新坐标轴Y1和Y2。 6个样方点在新坐标系中位置的数据为： 与中心化后的原始数据有如下关系： 写成矩阵的形式有： U是坐标旋转的变换矩阵，它是正交矩阵，有UT=U-1，即UUT=I（I为单位矩阵） 希望Y1轴就是要找的直线：6个点在该线上垂足的离差平方和最大（即畸变最小） ∵ ∴ 对刚性旋转后的新轴而言，坐标原点仍在形心（ ）。于是6个点在Y1轴上垂足的离差平方和就是它们在Y1轴上坐标之平方和 。 由 它的取值只依赖于坐标轴旋转角度一个变量，取极大值的必要条件是对θ的导数为0。即 =0 =0 上述条件等同于 因此，如果原坐标旋转后的Y1轴是我们要求的使Var(Y1)最大的直线的话，则必然有Var(Y2)最小，且 。这说明6个样方点对新坐标的离差矩阵应为 ∴ 其中XXT是已中心化数据的离差矩阵S，它是对称的。又因U是正交矩阵UT=U-1，则上式可写为：USU-1=Λ 和 是对称离差矩阵S的两个特征根（ ），而U的每一行是相应的特征向量。 系数