主成分分析之演示文稿.pptVIP

3.3 特征值与特征向量 定义 Ａ为ｎ阶方阵，λ为数， 为ｎ维非零向量， 若 则λ称为Ａ的特征值， 称为Ａ的特征向量． 注 ②　　　并不一定唯一； ③　ｎ阶方阵Ａ的特征值，就是使齐次线性方程组 ①　特征向量　　 ，特征值问题只针对与方阵； 有非零解的λ值，即满足 的λ都是方阵Ａ的特征值． 定义 称以λ为未知数的一元ｎ次方程 为Ａ的特征方程． * 当前第29页\共有55页\编于星期四\17点 例1: 从一个总体中随机抽取4个样本作三次测量,每一个样本的观测向量为: 计算样本均值M和协方差矩阵S以及S的特征值和特征向量. * 当前第30页\共有55页\编于星期四\17点 Syntax C = cov(X) AlgorithmThe algorithm for cov is [n,p] = size(X); X = X - ones(n,1) * mean(X); Y = X*X/(n-1); See Also corrcoef, mean, std, var * 当前第31页\共有55页\编于星期四\17点 ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? 平移、旋转坐标轴 ? M * * 当前第32页\共有55页\编于星期四\17点 为了方便，我们在二维空间中讨论主成分的几何意义。 设有n个样本，每个样本有两个观测变量xl和x2，在由变量xl和x2 所确定的二维平面中，n个样本点所散布的情况如椭圆状。由图可以看出这n个样本点无论是沿着xl 轴方向或x2轴方向都具有较大的离散性，其离散的程度可以分别用观测变量xl 的方差和x2 的方差定量地表示。显然，如果只考虑xl和x2 中的任何一个，那么包含在原始数据中的信息将会有较大的损失。 * * 当前第33页\共有55页\编于星期四\17点 如果我们将xl 轴和x2轴先平移，再同时按逆时针方向旋转?角度，得到新坐标轴Fl和F2。Fl和F2是两个新变量。 * * 当前第34页\共有55页\编于星期四\17点 Fl，F2除了可以对包含在Xl，X2中的信息起着浓缩作用之外，还具有不相关的性质，这就使得在研究复杂的问题时避免了信息重叠所带来的虚假性。二维平面上的个点的方差大部分都归结在Fl轴上，而F2轴上的方差很小。Fl和F2称为原始变量x1和x2的综合变量。 F简化了系统结构，抓住了主要矛盾。 * * 当前第35页\共有55页\编于星期四\17点 稍事休息 * 当前第36页\共有55页\编于星期四\17点 §3.4 PCA的性质 一、两个线性代数的结论 1、若A是p阶实对称阵，则一定可以找到正交阵U，使 其中 是A的特征根。 * 当前第37页\共有55页\编于星期四\17点 2、若上述矩阵的特征根所对应的单位特征向量为 则实对称阵 属于不同特征根所对应的特征向量是正交的，即有 令 * 当前第38页\共有55页\编于星期四\17点 §3.4 PCA的性质(续) 3、均值 4、方差为所有特征根之和 说明主成分分析把P个随机变量的总方差分解成为P个不相关的随机变量的方差之和。 协方差矩阵?的对角线上的元素之和等于特征根之和。 * 当前第39页\共有55页\编于星期四\17点 主成分分析之PCA演示文稿 当前第1页\共有55页\编于星期四\17点 内 容 一、前 言 二、问题的提出 三、主成分分析 1. 二维数据的例子 2. PCA的几何意义 3. 均值和协方差、 特征值和特征向量 4. PCA的性质 四、主成分分析的算法 五、具体实例 实例2 六、 结论 七、练习 * 当前第2页\共有55页\编于星期四\17点 1. 前 言 假定你是一个公司的财务经理，掌握了公司的所有数据，比如固定资产、流动资金、每一笔借贷的数额和期限、各种税费、工资支出、原料消耗、产值、利润、折旧、职工人数、职工的分工和教育程度等等。 如果让你介绍公司状况，你能够把这些指标和数字都原封不动地摆出去吗？ 当然不能。实例1 实例2 你必须要把各个方面作出高度概括，用一两个指标简单明了地把情况说清楚。 汇报什么？ * 当前第3页\共有55页\编于星期四\17点 PCA 多变量问题是经常会遇到的。变量太多，无疑会增加分析问题的难度与复杂性. 在许多实际问题中，多个变量之间是具有一定的相关关系的。因此，能否