基于类属属性的多标签学习研究.pdfVIP

摘要

基于类属属性的多标签学习研究

分类是机器学习领域常见的问题之一，多标签学习是传统分类问题的变体，

它能够处理每个实例同时和多个标签相关联的问题。目前已经存在大量成熟的方

法用于解决多标签学习，这些方法整体可以被划分成两类：问题转换方法和算法

自适应方法。问题转换方法通常会先将多标签学习问题转换成其他类型的问题，

比如二元分类、多分类等，然后再利用相应的算法进行处理；而算法自适应方法

则通过改变现有的算法来实现直接处理多标签学习问题。另外，由于多标签学习

的标签空间较大，并且每个实例可能与不止一个标签相关联，因此标签之间可能

隐藏着有价值的信息，而这些信息对于提高系统的性能是十分重要的。根据所考

虑的标签相关性的程度可以将多标签学习算法划分为三类：一阶策略、二阶策略

和高阶策略。一阶策略不考虑标签之间的相关性，二阶策略对标签之间的成对关

系进行考虑，而高阶策略则对标签之间的高阶关系进行考虑。相比于前两种策略，

高阶策略探索了更强的相关性。

在许多的多标签学习算法中，它们采用相同的特征空间为类标签构建分类模

型，但是不同的类标签所包含的语义信息是不同的，因此可以为不同的类标签构

建其特有的特征空间。特征空间中所包含的属性是与该标签最相关，且最能够判

别该标签的属性，这些属性通常被称为类属属性。通过为不同的类标签构建类属

属性能够有效地提高多标签学习的性能。基于聚类集成的类属属性多标签学习算

法（Label-specificFeaturesviaClusteringEnsemble,LIFTACE）采用聚类集成技术

构建类属属性，但它忽略了标签向量的重要性，并且在构建分类模型时没有探索

标签之间的相关性。在本文中，我们提出了一种同时考虑标签向量的重要性和标

签相关性的基于类属属性的多标签学习算法LF-LELC。首先，分别在正样本集

合和负样本集合上进行聚类分析，其中簇的数目是根据标签向量中所包含的信息

来动态设置的；其次，为了使聚类结果更加稳定，在生成的聚类结果上应用聚类

集成技术；然后，根据聚类结果为每个类标签构建相应的类属属性以及分类模型；

最后，在标签空间中利用特征选择技术来为当前标签生成与其相关的标签集，将

集合中的每个标签作为附加属性添加到类属属性空间中，这样即可为每个标签构

建多个分类模型。对于每个测试样本，使用生成的分类模型为其预测相关标签集。

我们在12个数据集上进行了实验，这些数据集包括音乐、文本、生物等不

同的应用领域。此外，我们选取6个评价指标从多个方面对算法的性能进行了评

估。实验结果显示LF-LELC在多数数据集上实现了比其他对比算法更好的分类

结果。这也表明充分利用标签向量中所包含的信息和标签之间的相关性对于多标

签学习而言是有效的。

关键词：

多标签学习，类属属性，标签熵，标签相关性

Abstract

ResearchonMulti-labelLearningBasedonLabel-specificFeatures

Classificationisoneofthecommonproblemsinthedomainofmachinelearning.

Multi-labellearningisavariantofthetraditionalclassificationproblem,whichcandeal

withtheproblemthateachinstanceisassociatedwithmultiplelabelsatthesametime.

Atpresent,therearealargenumberofwell-establishedmethodstosolvethemulti-

labellearning,whichcanbedividedintotwocategories:problemtransformation

methodsandalgorithmadaptationmethods.Problemtransformationmethodsusually

transformmulti-labellearningproblem