基于注意力机制和特征相似度的卷积神经网络剪枝方法.pdfVIP

软件开发

基于注意力机制和特征相似度的卷积神经网络

剪枝方法

王星宇，李健

（四川大学电子信息学院，四川成都，610065）

摘要：在深度学习领域，高速发展的卷积神经网络带来了复杂的模型结构以及庞大的参数量，这导致了在资源有限的平台上部署模型更

具挑战性，然而现有的方法在剪枝力度较大时存在精度下降的问题，为此，本文提出一种基于的注意力和特征相度的剪枝方法，通过将

ECS注意力模块加入网络评估通道的重要程度，在此基础上获取特征的信息，根据通道重要性因子及特征的信息对模型进行剪枝，通过在

CIFAR10，CIFAR100数据集上对VGG，ResNet，DenseNet等典型网络的实验表明，基于注意力机制和特征相似度的方法对通道的重要程

度有更准确地评估，在剪枝力度较大时有着不错的表现。

关键词：通道注意力机制剪枝；特征相似度；卷积神经网络

中图分类号：TP183  文献标识码：A

0引言

卷积神经网络已成为计算机视觉和自

然语言等领域的关键技术[1]，伴随着网络

准确度的提高，参数量成倍地增加，结构

也愈来愈复杂，将拥有巨大参量的模型应图1 ECS模块网络结构

用到计算资源有限的边缘平台上也逐渐成

为越来越重要的问题。

神经网络压缩方法以保持网络精度为

前提，最大限度地减少模型的浮点计算量

及参数大小，其中，剪枝是最为有效的方

法，主要思想就是减少卷积核输入输出的

通道数量[2]。神经网络剪枝按修剪粒度分

为权重剪枝和通道剪枝，前者由于修剪后

的权重变稀疏，大部分的硬件无法加速稀

疏矩阵的计算[3]，所以目前的主流方法依

然是能够实现加速的通道剪枝。通道剪枝图2 通道注意力模块网络结构

的关键是评估每个通道的重要程度[4]。CPSCA[5]方法通过引因子，特征相似度作为评估通道重要程度的标准，能够更准

入注意力评估通道的重要程度来指导剪枝。Wang等人提出确的衡量每个卷积核的贡献，这种剪枝方法能在保持性能的

了使用SENet模块[6]识别冗余通道。HRank通过计算特征前提下，有效地减少模型的冗余信息。

秩[7]的方式判断通道的重要程度，然而，以上方法没有将

1方法

注意力机制生成的重要性因子和特征的信息有效联合起来，

仅靠单一的评估标准无法衡量近似的通道，特征相似度也是■1.1ECS注意力模块

注意力机制能精准地捕捉到关键信息，让神经网络关注

同理。

重要的部分，同时抑制无关紧要的信息，本文使用的注意力

为了解决上述问题，本文提出一种基于ECS(efficient

机制由两个部分组成，通道注意力依据通道重要程度赋予权

channelspatial)注意力机制和特征相似度的联合剪枝方

重值，空间注意力按位置的重要程度赋予权重值。

法，ECS模块将通道和空间注意力联合，该模块不仅能嵌

入到卷积神经网络中增强其表征能力，还能评判每个通道的FCF=⊗AC(F)式(1)

重要程度，生成对应的重要性因子，此外，计算卷积核输出F′FC=⊗AS(FC)式(2)

特征的相似程度，以此判定通道提取信息的冗余，将重要性输入特征为F∈MC,H,W的矩阵，先通过通道注意力生

www�ele169�com|57