面向开放集识别深度网络适配方法研究.pdfVIP

面向开放集的深度网络

阿比吉特·本达莱（AbhijitBendale）*，特

伦斯·E·鲍尔特（TerranceE.Boult）科罗拉多

大学斯普林斯分校{abendale,tboult}@vast.uccs.edu∗

视觉与学习。深度网络的研究显著改善了视觉识

别的许多方面[26,3,11]。丰富的表示方法、可扩展的

深度网络在各种视觉识别问题上取得了显著的提

分类方法和大型数据集的共同发展，催生了许多商业应

升，推动了具有高学术和商业应用的发展。

用[5,28,16,6]。然而，在动态且不断变化的世界

的研究，深度网络存在一个显著问题：即使人类永

中部署识别系统时，会遇到广泛的操作。大多数识

远不会将某些图像归类为特定对象类别，网络却仍以高

别系统都是为静态的封闭世界设计的，其主要假设是所

置信度将其分类为该类——即深度网络容易类认为

有类别都是事先已知的。与许多经典的机器学习工具一

无意义的图像所。深度网络的封闭集特性迫使它们

样，深度网络也是为执行闭集识别而设计的。

必须从已知类别中进行选择，从而导致此类问题。而现

实世界中的识别任务本质上是开放集的，即识别系统在

测试时应能未知或未见过的类别。我们提出了一种近期关于开放集识别[20,21]和开放世界识别

将深度网络适配为开放集识别系统的方法，通过引入一[1],的研究，已经形式化了在测试过程中需要未

个新的模型层——OpenMax，来估计输入属于未知类知对象的场景下的识别过程。虽然人们可以始终使用

别的概率。估计未知类概率的关键在于将元识别一个“其他”类来训练那些不感的类别（已知的

（

Meta‑Recognition）概念适配到网络倒数第二层的未知类），但不可能用所有可能的未知对象样本来进

激活模式中。OpenMax能够系统所遇到的“行训练。因此，我们需要设计能够正式考虑“未知的

图像”和无关的开放集图像，从而显著减少深度网络产未知类”[18]的视觉识别工具。尽管已经开发出一系列

生的明显错误。我们证明了OpenMax概念能够算法来解决这个问题[4,20,21,25,2],，但如何在深度

有界的开放空间风险，从而在理论上正式了一种开网络中执行开放集识别仍然是一个未解难题。

放集识别解决方案。我们使用来自CaffeModel‑zoo

的预训练网络，在ImageNet2012验证数据集以及数在大多数深度网络中[11,26,3],，最后一个全连接层

千张图像和开放集图像上评估了所开放集深的输出会被输入到SoftMax函数，该函数会在N个已知

度网络。实验结果表明，所OpenMax模型在类别上生成一个概率分布。虽然深度网络总会有一个

开放集识别准确率上显著优于基础深度网络以及使用最可能的类别，但人们可能希望对于未知输入来说，所有

SoftMax概率阈值处理的深度网络。