SparseViT：高效高分辨率视觉变压器激活稀疏性重探.pdfVIP

SparseViT：重新审视激活稀疏性以实现

高效的高分辨率视觉变压器

1441,31,341234

,2,∗,∗期智复旦大学麻省理工

学院

3

2

0

2

r

a

M高-分辨率图像使神经网络能够学习更丰富的视觉表

示。然而，这种改进的性-能是以计算复杂性的增加为代

0

-敏

3价的，这了它们在延迟感应用中的使用。由于并

非所有像素都是等同的，跳过对较-不重要区域的计算提

]

V供了一种简单而有效的措施来减少计算量。然而，对于卷(a)直接下采样:较低分辨率(0.5x),密集(100%)

C积神经网络（CNNs）而言，将这一点转化为实际加速是

s.的，因为这破坏了密集卷积工作负载的规律性。在本

c文中，我们介绍了SparseV