Pca与lda算法分析.docxVIP

Pca算法分析 Pca算法即主成分分析，是一种掌握事物主要矛盾的统计分析方法。它可以从多元事物中解析出主要影响因素，揭示事物的本质，简化复杂的问题。 计算思想，找出主成分，用r（rn）个新变量来反应主要特征。新变量构成的维度空间是去掉非主要特征后的，达到降维的目的。pca算法通过计算协方差矩阵的特征值来获得贡献大的维度，也就是通过线性组合计算相关性找到合适的维度。 计算方法，首先计算出协方差矩阵，然后选取出特征值大的前几个的特征向量构建新的特征矩阵，再将数据投影到新的维度空间里就完成了降维。 Lda算法分析 Lda算法即线性鉴别分析。与pca相似但数据带类别标签，降维同时达到类间耦合度小，聚合度大的目的。 计算思想，将高维的模式样本投影到最佳鉴别矢量空间，要达到抽取分类信息和降维的功能，要使类间有很好的分离性。围绕的是这个核心公式 这个式子是假设有两类的情况，m代表的是降维后类的样本均值，s代表的是降维后类的离散度矩阵，分子是类间距离用m1与m2的距离表示，分母是类内距离，用每类样本距其类均值距离和来表示。S的算法为 最后对Jf(w)变换求解。 Pca算法与Lda算法很相似最主要的区别在于pca没有分类信息，它把数据降维后数据信息损失很低，但信息分类变得更加困难，lda的映射是不同类之间的信息更加容易区分。