神经网络理论及应用实践 课件 7.5 CNN 网络退化.pptxVIP

卷积神经网络的性能分析

之网络退化问题主讲人：张洁北京工商大学计算机与信息工程学院

2026/10/11BTBU-CIE2本节概要深度神经网络的网络退化问题描述解决网络退化问题——ResNet

2026/10/113神经网络的深度DeepLearningGetsWayDeeper*-----KaimingHe(何恺明)@FAIR,CA*K.He,X.Zhang,S.Ren,andJ.Sun.Deepresiduallearningforimagerecognition.InCVPR,2016.?网络深度的作用和意义在何处？为了提取更强的特征，可否直接增加网络层数？

2026/10/114神经网络的深度网络深度的作用？CNN能够提取low-level/mid-level/high-level的特征；网络的层数越多，意味着能够提取到不同level的特征越丰富；越深的网络提取的特征越抽象，越具有语义信息。为了提取更强的特征，为什么不能简单地增加网络层数？网络退化问题高层低层中层

2026/10/115网络退化问题随着网络的加深，出现了训练集准确率下降的现象，可以确定这不是由于Overfit过拟合造成的(过拟合时训练集准确率很高)注：上图及后续多图引用自K.He,X.Zhang,S.Ren,andJ