针对小样本改进的MobileViT算法.pdfVIP

ComputerEngineeringandApplications计算机工程与应用2024，60（22）251

针对小样本改进的MobileViT算法

张埠石，范红

上海海事大学物流工程学院，上海201306

摘要：为了提高基于Transformer的MobileViT算法在小样本数据上的分类能力，加快算法的训练、收敛以及提高

推理速度，提出了卷积池化下采样（convolutionalmaxpoolingdownsampling，CMP）和多分支残差特征融合（multi-

branchresidualfeaturefusion，MR-FF）两个模块，并插入到MobileViT算法的模块中，分别用于降低模型的参数量，

减少特征冗余和防止输入特征丢失。以最小参数量的MobileViT实验结果为例，在OxfordFlower102、Mini-ImageNet

小样本数据集上进行了对比实验，插入以上两个模块的MobileViT在测试准确率上分别提升了12.9、9.4个百分点，

在训练速度上提升了17%，在推理速度上提升了0.31ms。当在MobileViT中只插入CMP模块时，可以在小于60000

张图像的小样本数据集上获得更高的分类准确度、最短的推理时间。最后与五种先进的图像分类算法进行了比较，

改进的MobileVIT在小样本分类数据上取得了最优的测试结果。

关键词：最大池化；小样本；Transformer；图像分类

文献标志码：A中图分类号：TP181doi：10.3778/j.issn.1002-8331.2307-0250

ImprovedMobileViTAlgorithmforSmallSamples

ZHANGBushi,FANHong

SchoolofLogisticsEngineering,ShanghaiMaritimeUniversity,Shanghai201306,China

Abstract：Toimprovetheclassificationability,trainingspeed,convergence,andinferencespeedoftheMobileViTalgo-

rithmbasedonTransformeronsmall-sampledata,twomodulesareproposedandinsertedintotheMobileViTalgorithm：

convolutionalmaxpoolingdownsampling(CMP)andmulti-branchresidualfeaturefusion(MR-FF).Thesemodulesare

respectivelyusedtoreducemodelparameters,reducefeatureredundancyandpreventinputfeatureloss.Takingtheresults

oftheMobileViTwiththeminimumnumberofparametersasanexample,comparativeexperimentsareconductedonthe

OxfordFlower102andMini-ImageNetsmall-sampledatasets.TheMobileViTwiththeinsertedCMPandMR-FFmod-

ulesachievesa12.9and9.4percentagepointsincreaseintestaccuracy,a17%increaseintrainingspeed,anda0.31ms

increaseininferencespeed.Furthermore,itisfoundthatwhenonlytheCMPmoduleisinsertedintoMobileViT,higher

classificationaccuracyand