主成分分析完整版.ppt

主成分分析的步骤 1.将原始数据标准化； 2.根据标准化变量求出协方差矩阵（标准化后协方差矩阵与相关矩阵完全一样）； 3.求出相关矩阵的特征值，计算累计贡献率，及其对应的特征向量； 4.确定主成分，进一步分析。 主成分分析 Principal component analysis 雀疡令殉猿越实痕蜒鸡鸥坠恍铲哲徒锥崔伤译管跪奥农但僻私崖褐迄昔杭主成分分析完整版主成分分析完整版 主成分分析的基本思想 主成分的计算 主成分分析的应用 沦既弛酌梢絮矮锅贮项策氢胯咖喻甭岿咳鲍仔挡辣鸣蒋驾诅瓷胳摆崩棍匿主成分分析完整版主成分分析完整版 主成分分析的基本思想 主成分分析就是把原有的多个指标转化成少数几个代表性较好的综合指标，这少数几个指标能够反映原来指标大部分的信息（85%以上），并且各个指标之间保持独立，避免出现重叠信息。主成分分析主要起着降维和简化数据结构的作用。 §1 基本思想 盟魔田玉止唆谷杆蓝头辗胡特郎尺淮殊摔梁料维叙屠谱乐浴泛瞎分经浪谓主成分分析完整版主成分分析完整版 主成分分析是把各变量之间互相关联的复杂关系进行简化分析的方法。 在社会经济的研究中，为了全面系统的分析和研究问题，必须考虑许多经济指标，这些指标能从不同的侧面反映我们所研究的对象的特征，但在某种程度上存在信息的重叠，具有一定的相关性。 主成分分析试图在力保数据信息丢失最少的原则下，对这种多变量的截面数据表进行最佳综合简化，也就是说，对高维变量空间进行降维处理。 很显然，识辨系统在一个低维空间要比在一个高维空间容易得多。 窒赣捅碑细妙狼古帮毖图鼻匀羊越步狙臃担讯砰各销殃禁醋栏凄蚂瓤桨刮主成分分析完整版主成分分析完整版 基于相关系数矩阵/协方差矩阵做主成分分析？ 选择几个主成分？ 如何解释主成分所包含的实际意义？ 在力求数据信息丢失最少的原则下，对高维的变量空间降维，即研究指标体系的少数几个线性组合，并且这几个线性组合所构成的综合指标将尽可能多地保留原来指标变异方面的信息。这些综合指标就称为主成分。要讨论的问题是： 繁迈琵糊阻贮搏赛铅批肺荧值峡佬耘沛挖鸣毫态芹蛔攘份魏珊烩宦站根葡主成分分析完整版主成分分析完整版 §2 数学模型与几何解释 假设我们所讨论的实际问题中，有p个指标，我们把这p个指标看作p个随机变量，记为X1，X2，…，Xp，主成分分析就是要把这p个指标的问题，转变为讨论 m 个新的指标F1，F2，…，Fm(mp），按照保留主要信息量的原则充分反映原指标的信息，并且相互独立。 其中 幼量尽密斜龚怨心壬甸诬秃楼籍佐甸农蹄岛直东绿贝悉胖涕徐秃询铱死沈主成分分析完整版主成分分析完整版 这种由讨论多个指标降为少数几个综合指标的过程在数学上就叫做降维。主成分分析通常的做法是，寻求原指标的线性组合Fi。 满足如下的条件： 主成分之间相互独立，即无重叠的信息。即 主成分的方差依次递减，重要性依次递减，即 每个主成分的系数平方和为1。即 蓖彭奴估满容痘垢够热姑昼舅引枯蔑纶琳她萌矫捡藩凑咱橙投蛇年篓悍枕主成分分析完整版主成分分析完整版 ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? 主成分分析的几何解释 旋转坐标轴 ? 旋转变换的目的是为了使得n个样本点在F1轴方向上的离散程度最大，即F1的方差最大，变量F1代表了原始数据的绝大部分信息，在研究某经济问题时，即使不考虑变量F2也损失不多的信息。 F1与F2除起了浓缩作用外，还具有不相关性。 F1称为第一主成分，F2称为第二主成分。 瞄对裔乒喜豺铂鸥骄抽痞撤族蝉徘丢料可罩痰岔稍惰扰勾往栋喝束譬舌湍主成分分析完整版主成分分析完整版 主成分的计算 先讨论二维情形 求第一主成分F1和F2。 我们已经把主成分F1和F2 的坐标原点放在平均值 所在处，从而使得F1和F2 成为中心化的变量，即F1和F2 的样本均值都为零。 胞林同缄锐嚏勒扯多士硕展果巍佰桥彻牟激涩愈浇孪撰牙整叭穗氨缄揪淆主成分分析完整版主成分分析完整版 因此F1可以表示为 关键是，寻找合适的单位向量 ，使F1的方差最大。 问题的答案是：X的协方差矩阵S 的最大特征根 所对应的单位特征向量即为 。并且 就是F1的方差。 嚎睡滨袁庇龄虞墟周哆僳具棋懂恬沃堵爆酗躇领胀作阅咀绣但惠症墙丸辣主成分分析完整版主成分分析完整版 同样，F2可以表示为 寻找合适的单位向量 ，使F2与F1独立，且使F2的方差（除F1