聚类和群智能优化算法的自动剪枝方法.pdfVIP

聚类和群智能优化算法的自动剪枝方法.pdf

2042025，61（11）ComputerEngineeringandApplications计算机工程与应用

聚类和群智能优化算法的自动剪枝方法

1+1211

刘洲峰，吴文涛，李环宇，邵昕楠，李春雷

1.中原工学院信息与通信工程学院，郑州450000

2.中国石油大学（华东）海洋与空间信息学院，山东青岛266580

+通信作者E-mail：lzhoufeng62@163.com

摘要：近年来，网络剪枝技术作为一种极为有效的卷积神经网络压缩方案，得到了迅猛的发展，其中通道剪枝得益

于其硬件友好性，有着尤为明显的优势。然而，当前主流方法集中于通过通道重要性评估或人工干预来实现剪枝，

低效且容易导致次优结果；同时一些基于搜索算法的自动化剪枝方法则难以控制搜索空间与搜索效率之间的平

衡。为了解决这些问题，提出了一种基于聚类与群智能优化算法的自动通道剪枝方法。具体来说，根据特征图的相

似度利用-Mediod算法进行逐层的通道聚类，并通过灵敏度分析找到当前最优剪枝率，从而形成初步的压缩模

型，引入粒子群算法（PSO）对其进行迭代搜索并找到最优剪枝网络结构。对剪枝网络进行微调，以降低精度损失。

在CIFAR-10、ILSVRC-2012上对几种最为常用的CNN模型进行了评估，与近年来的主流方法相比实验结果有所提

升，证明了剪枝后网络的有效性，在ILSVRC-2012中，在ResNet-50达到45.5%剪枝率的前提下，模型准确度只降低

了0.23个百分点。

关键词：卷积神经网络；模型压缩；网络剪枝；网络结构搜索；粒子群算法

文献标志码：A中图分类号：TP183doi：10.3778/j.issn.1002-8331.2402-0221

AutomaticChannelPruningMethodBasedonClusteringandSwarmIntelligenceOptimization

Algorithm

1+1211

LIUZhoufeng,WUWentao,LIHuanyu,SHAOXinnan,LIChunlei

1.CollegeofInformationandCommunicationEngineering,ZhongyuanUniversityofTechnology,Zhengzhou450000,China

2.CollegeofOceanandSpaceInformation,ChinaUniversityofPetroleum,Qingdao,Shandong266580,China

Abstract：Inrecentyears,networkpruningtechniqueshavewitnessedrapiddevelopmentashighlyeffectivesolutionsfor

compressingconvolutionalneuralnetworks.Amongthem,channelpruningstandsoutduetoitshardware-friendlynature.

Currentmainstreammethodsfocusonsettingmanualconstraintsasevaluationcriteria,whichareinefficientandcaneasily

leadtosuboptimalresults.Ontheotherhand,existingautomaticpruningmethodsbasedonsearchalgorithmsstruggleto

strikeabalancebetweensearchspaceandsearchefficiency.Toaddresstheseissues,anovelautomaticchannelpruning