基于注意力和知识蒸馏技术的细粒度图像分类任务研究.pdfVIP

摘要

细粒度图像分类是在图像分类任务的基础上进一步细分，旨在识别一个大类目标

中的从属子类别。细粒度图像分类在智慧交通系统、智能零售系统、生态物种保护系

统等场景有着广泛的应用。细粒度图像受光照、拍摄角度等因素影响，同一子类图像

仅在细微具有判别力的局部有着细微差距，使得该分类任务具有类间方差小，类内方

差大的特点。目前已有大量与细粒度分类相关的研究，然而现有的深度学习方法通常

是计算型和参数密集型的，难以广泛应用在各种领域中。

图像分类任务中，卷积神经网络通常采用交叉熵损失的方式最小化预测值与真实

标签的差异。在细粒度图像分类任务中，网络通常仅集中于图像中最富判别信息的区

域，而忽视了其他具有判别信息的局部，这无法满足细粒度图像分类任务的要求。为

了解决这一问题，本论文基于注意力机制和知识蒸馏等技术出发，从两个方面对细粒

度分类网络模型做出了改进，具体如下：

1

（）本论文针对现有卷积网络容易忽略判别力信息较弱的局部的问题，引入了

无参注意力模块，通过该模块使活跃神经元获得更高的权值，并强化模型对关键特征

的感知能力和区分能力，设计了注意力消融模块，通过该模块对注意力较强的局部图

片消融并挖掘其他包含语义信息的局部，最终实现模型性能的提升。

（2）本论文针对现有细粒度分类网络训练需要花费大量的计算资源且难以广泛

应用的问题，在注意力消融模块的基础上提出了注意力自蒸馏模块，通过该模块使网

络能够结合前后的语义信息学习，提出了基于存储的知识蒸馏方法，通过深度聚类算

法单教师模型转换为多教师数据，使网络在教师信息流中捕获有效的互补信息并且大

幅加速多教师知识蒸馏的训练效率。

本论文在三个细粒度领域数据集上进行了实验，并与基准方法相比，本论文提出

的方法提高了4.4%的性能。

关键词：细粒度图像分类；深度学习；注意力机制；知识蒸馏

I

ABSTRACT

Fine-grainedimageclassification,anadvancedsubdivisionofimageclassification

tasks,aimstoidentifysub-categorieswithinabroadercategory.Thisclassificationhas

wideapplicationsinsmarttrafficsystems,intelligentretailsystems,ecologicalspecies

conservation,andmore.Fine-grainedimagesareinfluencedbylighting,shootingangles,

andotherfactors,withimageswithinthesamesub-categorydifferingonlyslightlyin

discriminativedetails.Thisleadstothetaskscharacteristicofsmallinter-classvariance

butlargeintra-classvariance.Althoughthereisawealthofresearchrelatedtofine-grained

classification,existingdeeplearningapproachesareoftencomputationallyand

parameter-intensive,limitingtheirwidespreadapplicationacrossvariousfields.

Inimageclassificationtasks,convolutionalneuralnetworkstypicallyminimizethe

differencebetweenpredictedvaluesandactuallabelsusingcross-entropyloss.For

fine-grainedimageclassification,networksusuallyfocusonthemost