一种基于相关信息熵的多标签分类算法.pdfVIP

第6期 张振海等：一种基于相关信息熵的多标签分类算法 ·969· 的多标签分类算法，使用标签之间的相关关系来改 1 多标签分类的问题描述和相关信 善多标签分类的性能。首先给出标签之间的相关系 数的计算方法，然后对算法进行描述。 息熵 2．1 标签之间相关系数的计算 在相关信息熵的计算中，标签之间的相关系数 1．1 多标签分类的问题描述 r使用互信息来表示。对于给定的2个离散变量 = {i}lssⅣ和Y= {Yi}1sisjv，其中 iE {}lf‘sh， 目前，处理多标签分类的方法主要有2种：问题 Y ∈{，} ，它们之间的互信息为 转换 (ProblemTransformation)方法和算法转化 (A1． ，( ；Y)=日()+日(y)一日( ，y) (4) gorithmAdaptation)方法_1]。多标签分类的问题描 式中日()为变量 的信息熵，定义为 述如下。 定义1 设一个样本的特征向量 = (。，：， H(X)=一∑Plogp (5) … ， )，其中 ∈R；候选标签集合L= {z。，z：，…， 日(1，)为变量y的信息熵，定义为 Z}，样本所对应的标签集合Y={z。，z：，…，z。}，P m，即y L；则包含t个样本的多标签数据集可表示 日(y)=一∑Pilogp (6) 为 H(X，Y)为变量 和变量 y的联合信息熵，定义为 D= {(X，)I1 i t，Xi∈R ，Yi L} H(X，y)=一∑∑Plogp (7) (1) 由于上述互信息的取值范围并不在 [0，1]之 式中置表示一个样本向量， 表示该样本对应的标 间，王强等人 [1叫给出了一种修正版的互信息，本文 签集合。 在该修正版的互信息基础上，给出更一般化的计算 1．2 相关信息熵 本文使用相关信息熵 口叫来衡量多个标签之间 方法。 定理1 给定2个离散变量 = l i和 l， 的相关关系。设有Ⅳ个标签 ， ∈[1，N]，相关系 = {Y}lssjv，其中 ∈{ 1 ^，Y ∈{vj}1，s^，令 数矩阵为R= }。 。f ，其中r表示标签 和 n表示 或者y取值为 的数 目，n表示 取值为 标签 j之间的相关系数。r ∈[0，1]，当i= 时，rif 并且 y取值为vj的数 目。如果 =1。r，=0表示2个标签之间的相关关系最弱，r= 1表示2个标签之间的相关关系最强。Ⅳ个标签的之