一种基于多示例多标记学习的新标记学习方法-中国科学信息科学.PDFVIP

中国科学: 信息科学 2018 年 第48 卷 第12 期: 1670–1680 论文 一种基于多示例多标记学习的新标记学习方法 朱越 姜远 周志华 计算机软件新技术国家重点实验室 南京大学 南京 软件新技术与产业化协同创新中心 南京 通信作者 收稿日期 接受日期 网络出版日期 国家自然科学基金批准号 资助项目 摘要 多标记学习是一种应用非常广泛的学习范式 其中 一个对象可能同时与多个标记相关联 传 统的多标记学习研究多假设训练数据中观察到的标记分布与测试数据的真实标记分布一致 但在实 际应用中 训练数据中可能存在一些从未被标注出的新标记 在预测时 不仅希望能够在目标标记集 合 已知标记 上取得好的性能 还要求能够检测出样本是否存在新标记 针对这种多标记新标记学 习问题 本文提出了一种端到端的多视图多示例多标记学习方法 该方法基于卷积神经网络 产生多示例包 并通过最小化包上观察标记的错分损失和对新标记预测值排序损失的惩罚以及对多 视图预测不一致的惩罚同时学习图像 文本两个视图的特征表示以及已知标记和新标记的预测函数 在大规模图片 文本真实数据集上验证了 在已知标记学习和新标记检测任务上的有效性 关键词 多标记新标记学习 多示例多标记学习 多视图学习 深度学习 引言 多标记学习∼ 是一种非常重要的学习范式 其中 一个对象可能同时与多个标记相关联 传统 多标记学习的研究多假设训练数据中观察到的标记分布与测试数据的真实标记分布一致 但在实际应 用中 训练数据中可能存在一些从未被标注出的新标记 而对测试数据需要预测这些新标记 例如图片 标注任务要求标注图片是否有建筑和车辆 那么标注者可能只关心建筑和车辆的语义 而不会对图片 出现的天空、树木等其他语义进行标注 如何预测样本中是否有天空、树木这样在训练集中存在相关 语义但从未被标注出的新标记呢 直接在多标记学习的框架下检测新标记是非常困难的 现有一类多标记弱标记学习工作 考虑 标记部分缺失的情况 某些样本上缺失的标记在另一些样本上可以观测到 在这种情况下 可以利用 低秩结构特性 通过优化矩阵核范数 或者最小化重构误差进行低秩矩阵分解 从而对标记矩 引用格式 朱越 姜远 周志华 一种基于多示例多标记学习的新标记学习方法 中国科学 信息科学 ⃝ 《中国科学》杂志社 中国科学: 信息科学 第 48 卷 第 12 期 阵进行补全 但是在多标记新标记学习中 由于在整个训练集中新标记对应的语义均未被标注 即真 实标记矩阵整列缺失 无法利用低秩矩阵补全 如果直接采用异常检测的方法判断是否有新标记出现也可能失败 一个样本可能不仅仅 有新标记 还可能同时与多个已知标记相关联 因而很难从特征上将同时有新标记和已知标记的样本 和那些只有相同已知标记的样本区分开 即使一个样本被检测算法认为是一个异常样本 可能由于 该样本真的与新标记相关联 也有可能是因为出现了训练集中没有出现过的已知标记的组合 因此 为了解决多标记新标记学习问题 考虑应用表示能力更强的学习范式 主要包括结构和特 征两个层面 从结构上 学习框架采用多示例多标记学习框架∼ 其中 每个对象由一个多示例包 表示 包中的每个示例对应某一个语义概念 包的标记即为包中样本标记的并集 在训练过程中 只能 观察到包的标记 而具体的包中示例的标记不可见 以图像标注任务为例 一个多示例包对应的是一 幅图像 而包中的示例则对应图像分割成的各个小块 直觉上看 在多示例多标记学习框架下 只要能 够