信号相关分析与主元分析.ppt

THANKS * ǒǒ 标准化后的随机向量 X?= (X1?, X2? , … , Xp? ) ?的协方差阵??就是原随机向量X的相关阵R .从相关阵R 出发求主成分, 记主成分向量为 Z?= (Z1?, Z2? , … , Zp? )? 则Z?有与总体主成分相应的性质. X 的相关阵R 的特征值为 ?1? ≥?2? ≥… ≥ ?p? ≥ 0 , ?1 ? , ?2 ? , … , ?p ? 为相应的单位正交特征向量, 则X ?的第i主成分为 Zi? = ai ? ? Xi? ( i =1 ,…, p ). 其中 A ? = (?1 ? ?2 ? … ?p ? ) X?= (X1?, X2? , … , Xp? ) ? Z?= (Z1?, Z2? , … , Zp? )? Z ? = A?? X ?, Zi? = ai? ? Xi? 性质1 主成分Zk?与标准化变量Xi?的相关系数为 其中ak? = (a1k? , a2k? , … , apk? )?是 R 对应于?k?的单位正交特征向量. 性质2 性质3 定义 称 为主成分Zk 的贡献率; 又称 为主成分Z1 , … , Zm的累计贡献率. ? ? ? 定义 将前m 个主成分 Z1 , … , Zm 对原始变量Xi 的贡献率 定义为 Xi 与Z1 , … , Zm 的相关系数的平方 ? ? ? ? ? ? 变量标准化后的因子负荷量 例 设总体X = (X1 , X2 , X3 )￠~N3(m, ?) 的 均值向量m = (0, 0, 0 )，协方差阵为 (1) 求总体X的三个主成分； (2) 求X的等概率密度椭球的主轴方向； (3) 求每个主成分的贡献率; (4)求前两个主成分对变量X1 , X2 , X3的贡献率. 六、简单算例 求总体X的三个主成分； 的特征值为 求?的第一大特征值对应的单位特征向量 求?的第二大特征值对应的单位特征向量 求?的第三大特征值对应的单位特征向量 求总体X的三个主成分； 的特征值与对应的单位特征向量为 总体X的三个主成分为 (2) 求X的等概率密度椭球的主轴方向依次为 (3)求第一、第二、第三主成分的贡献率依次为 (4) i 1 2 3 (4) 主成分对变量的贡献率 i 1 2 3 七、 主分量分析方法应用实例 下面，我们根据表2.4.1给出的数据，对某农业生态经济系统做主成分分析。 表2.4.1 某农业生态经济系统各区域单元的有关数据 步骤如下： （1）将表2.4.1中的数据作标准差标准化处理，然后将它们代入公式,计算相关系数矩阵（表2.4.2）。 表2.4.2　相关系数矩阵 （2）由相关系数矩阵计算特征值，以及各个主成分的贡献率与累计贡献率（表2.4.3）。由表2.4.3可知，第1，第2，第3主成分的累计贡献率已高达86.596%（大于85%），故只需要求出第1、第2、第3主成分z1，z2，z3即可。 表2.4.3　特征值及主成分贡献率 （3）对于特征值=4.661 0，=2.089 0，=1.0430分别求出其特征向量e1，e2，e3，再计算各变量x1，x2，…，x9在主成分z1，z2，z3上的载荷（表2.4.4）。 表2.4.4 主成分载荷 上述计算过程,可以借助于SPSS或Matlab软件系统实现。 (1)第1主成分z1与x1，x5，x6，x7，x9呈现出较强的正相关，与x3呈现出较强的负相关，而这几个变量则综合反映了生态经济结构状况，因此可以认为第1主成分z1是生态经济结构的代表。 (2)第2主成分z2与x2，x4，x5呈现出较强的正相关，与x1呈现出较强的负相关，其中，除了x1为人口总数外，x2，x4，x5都反映了人均占有资源量的情况，因此可以认为第2主成分z2代表了人均资源量。 分析： 显然，用3个主成分z1、z2、z3代替原来9个变量（x1，x2，…，x9）描述农业生态经济系统，可以使问题更进一步简化、明了。 (3)第3主成分z3与x8呈现出的正相关程度最高，其次是x6，而与x7呈负相关，因此可以认为第3主成分在一定程度上代表了农业经济结构。 (4)另外，表2.4.4中最后一列（占方差的百分数），在一定程度上反映了3个主成分z1、z2、z3包含原变量（x1，x2，…，x9）的信息量多少。 第二节 核主成分分析 概述 核主成分的算法