主成分分析析和应用.pptVIP

主成分分析(PCA) 袁丁 天津大学神经工程与康复实验室 /  目录 TwNE尺 什么是PCA 一个简单的模型引出的PCA PCA的代数原理 今PCA求解 总结和讨论 今应用领域  THNERD PCA PCA( Principal component analysis),主元分析。 它是一种对数据进行分析的技术,最重要的应用是对原 有数据进行简化。 正如它的名字:主元分析,这种方法可以有效的找 出数据中最“主要”的元素和结构,去除噪音和冗余, 将原有的复杂数据降维,揭示隐藏在复杂数据背后的简 单结构。 它的优点是简单,而且无参数限制,可以方便的应 用与各个场合。  目的 THNERD 压缩变量个数 用较少的变量去解释原始数据中的大部分变量,剔除冗 余信息。即将许多相关性很高的变量转化成个数较少、能解 释大部分原始数据方差且彼此互相独立的几个新变量,也就 是所谓的主成分。 这样就可以消除原始变量间存在的共线性,克服由此造 成的运算不稳定、矩阵病态等问题。  THNERD 令PCA广泛用于化学实验数据的统计分析,进行数据降维 变量提取与压缩、确定化学组分数、分类和聚类以及与其 他方法连用进行数据处理 令主成分计算方法有非线性偏最小二乘( NIPALS)、乘幂法 ( POWER)、奇异值分解(SVD)和特征值分解(EVD)等 它们的原理基本上是基于特征值问题,计算结果也基本相 同  一个简单的模型 THNERD Question 大量的变量代表可能变化的因素 光谱电压速度 实验环 不境 限制因素 复杂、混乱、冗余 观测手段 HoW分析变量背后的关系? 个简单的物理模型  这是一个理想弹箦运动规律的测定实验。假设球是连接在 个无质量无摩擦的弹簧之上,从平衡位置沿轴拉开一定 的距离然后释放。 I(a, ya),(xb,yB),(xc, yc) camera B 200HZ 沿着某个X c轴的运动 camera A (x0y0x0)  标准正交基 200hz拍摄10分钟,将有 10X60x200=120000 y 为行列向量线性无从10…0 在线性代数中,这 组基本正交基表示 关的单位矩阵  基变换 来Q?如何寻找到另一组正交基,它们是标准正交基的 线性组合,而且能够最好的表示数据集? 数据被限制在一个向量空间中,能被一组基表 假 线性 隐含的假设了数据之间的连续性关系 PX=Y (1) X表示原始数据集。X是一个m*n的矩阵,它的每一个 列向量都表示一个时间采样点上的数据X,在上面的 例子中,m=6,n=12000 Y表示转换以后新的数据集。P是他们之间的线性转换  THNERD 有如下定义 pi表示P的行向量。 表示X的列向量(或者X)。 yi表示Y的列向量。 公式(1)表示不同基之间的转换,在线性代数中 它有如下的含义 P是从X到Y的转换矩阵 几何上来说,P对X进行旋转和拉伸得到Y。 P的行向量,{p1,pm)是一组新的基,而Y 是原数据X在这组新的基表示下得到的重新表示