视觉Transformer(ViT)发展综述.pdfVIP

://

httwww．skx．com

pjj

:/

DOI１０．１１８９６skx．２４０６００１３５

jj

()

视觉TransformerViT发展综述

,,

李玉洁１２马子航１王艺甫１王星河１谭本英１２

桂林电子科技大学人工智能学院广西桂林

１５４１００４

()

广西高校人工智能算法工程重点实验室桂林电子科技大学广西桂林

２５４１００４

()

uieli＠uet．edu．cn

yjg

(,),

摘要视觉是基于编码器解码器结构的改进模型已经被成功应用于

TransformerVisionTransformerViTＧTransformer

.,

计算机视觉领域近几年基于ViT的研究层出不穷且效果显著基于该模型的工作已经成为计算机视觉任务的重要研究方

,.,,

向因此针对近年来ViT的发展进行概述首先简要回顾了ViT的基本原理及迁移过程并分析了ViT模型的结构特点和优

;,,,

势然后根据各ViT变体模型的改进特点归纳和梳理了基于ViT的主要骨干网络变体改进方向及其代表性改进模型包括

、、、,;,

局部性改进结构改进自监督轻量化及效率改进等改进方向并对其进行分析比较最后讨论了当前ViT及其改进模型仍

,.

存在的不足对ViT未来的研究方向进行了展望可以作为研究人员进行基于ViT骨干网络的研究时选择深度学习相关方法

的一个权衡和参考.

:;;();;

关键词计算机视觉模式识别VisionTransformerViT深度学习自注意力

中图分类号TP３９１

()

SurveofVisionTransformersViT

y

,,

１２１１１