源代码feature agglomeration特征融合算法介绍及python实现方法-peaker.pdfVIP

#源代码#Featureagglomeration特征融合算法介绍及python实现方法

Peaker

对于海量特征的大数据，我们往往需要对特征进行进一步的优化

筛选，例如特征提取，特征选择，以及其他降维的方法，如PCA。主成

分分析PCA是我们比较熟悉的一种将维方法，主要是在特征中识别出

最大主成分的矢量方向，通常是可以解释85%的数据信息，那么我们

就用这几个主成分来代表其他特征。而今天我们要介绍另一种降维方

法——Featureagglomeration。Featureagglomeration的主要思想是评估

之间的相似性，类似于层次分析的原理，将具有相似性的特征归

为一个聚类，从而实现降维。

今天我们介绍一下如何通过python语言实现Feature

agglomeration。首先我们创建一组数据集，由1797个数据点构成，包

括64个特征，我们对这些特征进行特征融合。由于特征融合的算

法于层次聚类，所以这里不难理解，我们要从聚类的cluster包调

用Featureagglomeration函数。如下所示

从上面结果可以看出，我们调用cluster包里的FeatureAgglomeration函

数，计算特征之间的相似性，并形成聚类，最后将64个特征融合为32

个特征，实现了降维的目的。

接下来我们实战一下，利用一组图形数据，我们尝试将相似的特

征进行融合，看看融合后的数据模式是什么样。结果如下

实现代码如下：

接下来我们比较两种降维的策略

1.单变量特征选择（Anova）

2.特征融合Wardhierarchicalclustering

我们以BayesianRidge作为有监督的分类器模型，比较的结果如

下

第一张图为真实的特征权重，第二张图为Anova法单变量特征选

择的结果，第三张图为特征融合算法。从图中可以看出，原始的特

征点被基于相似性聚成多个类，用不同颜色划分区域。

Python下实现的代码地址

喜欢本文吗？欢迎加入云生信跟大家一起进步

~