应用多元统计分析（pca分析）第6章 主成分分析PPT课件教学幻灯片.pptVIP

一、主成分分析实例 表6.1是某市工业部门13个行业的8项重要经济指标的数据，这8项经济指标分别是： X1：年末固定资产净值，单位：万元； X2：职工人数据，单位：人； X3：工业总产值，单位：万元； X4：全员劳动生产率，单位：元/人年； X5：百元固定资产原值实现产值，单位：元； X6：资金利税率，单位：%； X7：标准燃料消费量，单位：吨； X8：能源利用效果，单位：万元/吨。 表6.1 某市工业部门13个行业8项指标 我们要考虑的是：如何从这些经济指标出发，对各工业部门进行综合评价与排序？ 我们先计算这些指标的主成分，然后通过主成分的大小进行排序。表6.2和表6.3分别是特征根（累计贡献率）和特征向量的信息。 利用主成分得分进行综合评价时，从特征向量我们可以写出所有8个主成分的具体形式： 表6.2 特征根和累计贡献率 第六章 主成分分析 第一节 引言 第二节 主成分的几何意义及数学 推导 第三节 主成分的性质 第四节 主成分方法应用中应注意 的问题 第五节 实例分析与计算机实现 我们知道，当一个变量只取一个数据时，这个变量（数据）提供的信息量是非常有限的，当这个变量取一系列不同数据时，我们可以从中读出最大值、最小值、平均数等信息。变量的变异性越大，说明它对各种场景的“遍历性”越强，提供的信息就更加充分，信息量就越大。主成分分析中的信息，就是指标的变异性，用标准差或方差表示它。 主成分分析的数学模型是，设p个变量构成的p维随机向量为X = （X1，…，Xp）′。对X作正交变换，令Y = T′X，其中T为正交阵，要求Y的各分量是不相关的，并且Y的第一个分量的方差是最大的，第二个分量的方差次之，……，等等。为了保持信息不丢失，Y的各分量方差和与X的各分量方差和相等。 第二节 主成分的几何意义及数 学推导 一 主成分的几何意义 二 主成分的数学推导 一、主成分的几何意义 主成分分析数学模型中的正交变换，在几何上就是作一个坐标旋转。因此，主成分分析在二维空间中有明显的几何意义。假设共有n个样品，每个样品都测量了两个指标（X1， X2），它们大致分布在一个椭圆内如图6.1所示。事实上，散点的分布总有可能沿着某一个方向略显扩张，这个方向就把它看作椭圆的长轴方向。显然，在坐标系x1Ox2中，单独 看这n个点的分量X1和X2，它们沿着x1方向和x2方向都具有 较大的离散性，其离散的程度可以分别用的X1方差和X2的方 差测定。如果仅考虑X1或X2中的任何一个分量，那么包含在 另一分量中的信息将会损失，因此，直接舍弃某个分量不是“降维”的有效办法。 图6.1 主成分的几何意义 易见，n个点在新坐标系下的坐标Y1和Y2几乎不相关。称它 们为原始变量X1和X2的综合变量，n个点y1在轴上的方差达 到最大，即在此方向上包含了有关n个样品的最大量信息。 因此，欲将二维空间的点投影到某个一维方向上，则选择y1 轴方向能使信息的损失最小。我们称Y1为第一主成分，称Y2 为第二主成分。第一主成分的效果与椭圆的形状有很大的关 系，椭圆越是扁平，n个点在y1轴上的方差就相对越大，在y2 轴上的方差就相对越小，用第一主成分代替所有样品所造成 的信息损失也就越小。 考虑两种极端的情形： 一种是椭圆的长轴与短轴的长度相等，即椭圆变成圆，第一主成分只含有二维空间点的约一半信息，若仅用这一个综合变量，则将损失约50％的信息，这显然是不可取的。造成它的原因是，原始变量X1和X2的相关程度几乎为零，也就是说，它们所包含的信息几乎不重迭，因此无法用一个一维的综合变量来代替。 另一种是椭圆扁平到了极限，变成y1轴上的一条线，第一主成分包含有二维空间点的全部信息，仅用这一个综合变量代替原始数据不会有任何的信息损失，此时的主成分分析效果是非常理想的，其原因是，第二主成分不包含任何信息，舍弃它当然没有信息损失。 二、主成分的数学推导 第三节 主成分的性质 一 主成分的一般性质 二 主成分的方差贡献率 一、主成分的一般性质 二、主成分的方差贡献率 第四节 主成分方法应用中应注 意的问题 一 实际应用中主成分分析的出发点 二 如何利用主成分分析进行综合评价 一、实际应用