计量地理第3章地理学中的经典统计方法-主成分说课.ppt

* * * * * * * 对一个N阶对称方阵进行特征分解，就是产生了该空间的N个标准正交基，然后把矩阵投影到这N个基上。N个特征向量就是N个标准正交基，而特征值的模则代表矩阵在每个基上的投影长度。 应用到数据挖掘中，意思就是最大特征值对应的特征向量方向上包含最多的信息量，如果某几个特征值很小，说明这几个方向信息量很小，可以用来降维，也就是删除小特征值对应方向的数据，只保留大特征值方向对应的数据，这样做以后数据量减小，但有用信息量变化不大。 * * * 对一个N阶对称方阵进行特征分解，就是产生了该空间的N个标准正交基，然后把矩阵投影到这N个基上。N个特征向量就是N个标准正交基，而特征值的模则代表矩阵在每个基上的投影长度。 应用到数据挖掘中，意思就是最大特征值对应的特征向量方向上包含最多的信息量，如果某几个特征值很小，说明这几个方向信息量很小，可以用来降维，也就是删除小特征值对应方向的数据，只保留大特征值方向对应的数据，这样做以后数据量减小，但有用信息量变化不大。 * * * * * * * * * * * * 管理学院 《计量地理》课程 广州大学地理科学学院地理131专业 教学课件，请勿将课件上传至任何网站 第 3 章 地理学中的经典统计分析方法 相关分析 回归分析 系统聚类分析 主成分分析 主成分分析（ Principal component analysis ） 地理复杂系统： 变量太多—分析问题复杂、难度大 多变量之间往往具有相关性 用较少的新变量代替原来较多的旧变量，使新变量尽可能多地保留原来变量的信息？ 主成分分析 主成分分析是把原来多个变量划为少数几个综合指标的一种统计分析方法。 降维处理技术！ 主成分分析的例子 各个变量之间，信息可能有重复，例如人口密度和人均耕地面积存在负相关。 能否提出少数几个综合指标来代表这些变量，要求信息保留尽量地多，而综合指标之间不存在信息的重复，即不相关或称为相互独立。 主成分分析 主成分分析的基本原理 主成分分析的计算步骤 主成分分析方法应用实例 主成分分析的基本原理 主成分分析的基本原理 假定有n个地理样本，每个样本共有p个变量，构成一个n×p阶的地理数据矩阵。 主成分分析的基本原理 目标 用较少的几个综合指标代替原来的变量指标。 使新的综合指标既能尽量多地反映原来指标的信息，同时它们之间又是彼此独立的。 这是一种线性变换技术 主成分分析的基本原理 系数lij的确定原则 ① zi与zj（i≠j；i，j=1，2，…，m）相互无关； ② z1是x1，x2，…，xp的一切线性组合中方差最大者，z2是与z1不相关的x1，x2，…，xp的所有线性组合中方差最大者;…; zm是与z1，z2，……，zm-1都不相关的x1，x2，…，xp的所有线性组合中方差最大者。 则新变量指标z1，z2，……，zm分别称为原变量指标x1，x2，…，xp的第1，第2，…，第m主成分。 主成分分析的基本原理 从以上的分析可以看出，主成分分析的实质就是确定原来变量xj（j = 1，2 ，…， p）在诸主成分zi（i=1，2，…，m）上的荷载 lij（ i=1，2，…，m; j = 1，2 ，…， p）。 数学上可以证明，它们分别是原变量的相关矩阵的前m个最大的特征值所对应的特征向量。 主成分分析的基本原理 主成分分析 主成分分析的基本原理 主成分分析的计算步骤 主成分分析方法应用实例 主成分分析的计算步骤 （一）计算相关系数矩阵 rij（i，j=1，2，…，p）为原变量xi与xj的相关系数， rij=rji，其计算公式为 主成分分析的计算步骤 （二）计算特征值与特征向量 ① 解特征方程　　　　，常用雅可比法（Jacobi）求出特征值，并使其按大小顺序排列 ； ② 分别求出对应于特征值　的特征向量 　 ，要求 　　=1，即　　　　　，其中　表示向量 的第j个分量。 特征值越大，说明矩阵在对应的特征向量上的方差越大，信息量越多。 主成分分析的计算步骤 贡献率 累计贡献率 一般取累计贡献率达85%~95%的特征值 所对应的第1、第2、…、第m（m≤p）个主成分。 （三）计算主成分贡献率及累计贡献率 主成分分析的计算步骤 （四）计算主成分载荷 主成分分析的计算步骤 （五）、计算主成分得分 主成份得分即在新的坐标系下，各个样本的各个综合指标的取值。上式计算的是第i个样本在第j个综合指标的取值。 主成分分析 主成分分析的基本原理