基于知识蒸馏的小样本图像分类研究.pdfVIP

基于知识蒸馏的小样本图像分类研究

摘要

图像分类技术是图像处理与计算机视觉研究领域中一项基础性任务，图像分类影响

了目标检测、图像语义分割与图像理解等任务，在生活中应用广泛。采用深度学习方法

实现图像分类通常需要海量的训练数据，然而在实际应用中，样本采集困难、人工标记

样本代价高，这使小样本图像分类成为一个亟待解决的问题。迁移学习能从学习方法的

层次解决小样本分类问题，因此，本文采用迁移学习的方法实现小样本图像分类，通过

提出一种新的迁移学习方法，在源域大样本分类模型的基础上，采用知识蒸馏方法获得

一个较小的模型，并基于此进行微调。由于小样本微调小模型很少产生过拟合，因此，

此方法能够提高迁移学习的性能。基于这种方法，本文重点研究了以下两个内容。

第一，对知识蒸馏中的神经元选择性转移（NeuronSelectivityTransfer，NST）方法

NSTMaximumMeanDiscrepancyMMD

进行了研究。中仅通过分布的最大均值差异（，）

来衡量分布差异，这种度量方式可以进一步改进。对此，本文提出了一种新的损失函数

——最大均值和协方差偏度差异（MaximumMeanandCovarianceSkewnessDiscrepancy，

MMCSD），该损失函数在MMD的基础上添加了一定比例的协方差差异和偏度差异，

能够更为准确地衡量蒸馏损失。实验结果表明使用MMCSD损失的NST方法相较于经

典的知识蒸馏方法准确率更高。

第二，对迁移学习中模型微调方法的优化进行了研究。由于微调方法中只能手动选

择冻结层，因此微调时不能兼顾数据集中样本的特异性，导致提取的特征不充分。针对

这一问题，本文基于集成学习中的Bagging算法和Stacking组合策略，设计了一种基于

特征重要性的模型微调方法，此方法定义了重要占比的概念，用以表示当前模块提取的

特征在此模块完成任务时所需特征中占有的重要性程度。此外，利用此概念融合参数冻

结模块和微调模块的输出特征，用以保证特征提取的充分性，并基于此概念进行自适应

学习，用以获得最正确的特征融合策略。实验结果表明，此方法能有效兼容现存的微调

方法，并较其他微调方法能更充分地提取特征、更准确地进行分类。

综合性实验结果表明，本文提出的基于知识蒸馏的小样本图像分类方法具有模型小、

分类性能好的优势。

关键词：图像分类；小样本机器学习；知识蒸馏；模型微调；自适应学习

基于知识蒸馏的小样本图像分类研究

Abstract

Imageclassificationisafundamentaltaskinimageprocessingandcomputervision.

Imageclassificationaffectstaskssuchasobjectdetection,imagesemanticsegmentation,and

imageunderstanding,andiswidelyusedindailylife.Theimageclassificationusingdeep

learningusuallyhasarequirementforbigscaleoftrainingdata.However,inmanypractical

applications,thedifficultyofsamplecollectionandthehighcostofmanuallymarking

samplesmakesmallsampleimageclassificationanurgentproblemtobesolved.Transfer

learningcanfigureouttheissuesofsmallsamp