深度卷积神经网络模型发展综述.docxVIP

深度卷积神经网络模型发展综述 　　摘要：随着移动互联网与硬件处理器技术的不断发展，海量数据处理与计算能力不断提高，深度学习备受关注。卷积神经网络是深度学习模型中最重要的一种结构，可用于目标特征提取。介绍了为提高卷积神经网络性能，不断增加卷积网络深度的模型，以及因此带来的新问题和解决方法。 　　关键词：深度神经网络：特征提取：目标识别：网络结构 　　doi：10.11907/rjdk.191659 　　开放科学（资源服务）标识码（osid）： 　　中图分类号：tp3-0 　　文獻标识码：a 　　文章编号：1672-7800（2020）004-0084-05 　　reviewofthedevelopmentofdeepconvolutionalneuralnetworkmodel 　　hongqi-feng，shiwei-bing，wudi，luoli-yuan 　　（schoolofoptical-electricalandcomputererzgineering，universityofshangh.aiforscienceandtechnology，shanghai200093.china）abstract：withthecontinuousdevelopmenfofmobileinternet.hardwareprocessorandotheraspects，andthecontinuousimprove-mentofmassivedataandcomputingpower，deeplearninghasattractedmoreandmoreattentionoftheworld.especiallyafterleesedolfoughfagainstalphago，itattractedworldwideattenfion.convolutionalneuralnetworkisthemostimportantstructureindeeplearningmodel.whichisusedtoextracttargetfeatures.withthecontinuousdevelopmentofthedeeplearningfield，thispaperintro-ducestheimprovementoftheperformanceoftheconvolutionalneuralnetwork.theconvolutionalnetworkmodelswithincreasingdepth，aswellasthenewproblemsandtheirsolutions.keywords：deepneuralnetwork;featureextraction;objectidentification;networkstructure 　　o引言 　　卷积神经网络（convolutionneuralnetwork，cnn）用于特征提取，从最早期的尺度不变特征变换…（scaleinvariantfeaturetransform，sift）、harr、方向梯度直方图[2]（histo-gramoforientedgradients，hog）演化发展至今。1998年lecun[3]提出lenet-5，将卷积与神经网络结合在一起，这是一个划时代、影响深远的卷积神经网络结构，卷积和池化两个全新概念由此提出。其后随着深度学习理论的发展，2012年alexkrizhevshvy[4]提出alexnet，这是一个8层深的卷积神经网络，该模型一举夺下2012年imagenet比赛冠军。白alexnet之后，研究者从不同网络结构出发，陆续提出了各种性能越来越好的卷积神经网络模型，其中比较著名的有计算机视觉几何组（visualgeometrygroup，vg-gnet）、googlenet、深度残差网络（deepresidualnetwork，resnet）等[5-7] 　　1vgg模型 　　cnn模型基础架构如图l所示，从图1可以看出，cnn模型是由一系列层不断堆叠而成的，模型中的每一层都代表一种数学运算，如卷积、全连接是线性运算，池化、激活是非线性运算。 　　vgg模型于2014年由牛津大学vgg研究组提出，与alexnet类似，也是一种卷积神经网络，在alexnet的基础上，旨在通过加深网络提高性能。该模型在2014年ils-vrc定位和分类两个比赛上分别取得了第一名和第二名。与之前的网络结构相比，vgg模型错误率大幅下降。同时，该模型拓展性很强，迁移到其它图片数据上的泛化性非常好。除应用于最常见的特征提取（featu