人工智能基础及应用（微课版） 课件 第7章 深度学习.pptx

电子信息工程系第七章深度学习主讲人：柳长源

哈尔滨理工大学HarbinUniversityofScienceandTechnology电子信息工程系DepartmentofElectronicInformation引言BP神经网络(5.8)近年来，深度神经网络在模式识别和机器学习领域得到了成功的应用。其中深度信念网络（DeepBeliefNetwork，DBN）和卷积神经网络（CNN）是目前研究和应用都比较广泛的深度学习结构。本节重点介绍CNN，CNN是一种深度监督学习下的机器学习模型。其深度学习算法可以利用空间相对关系减少参数从而提高训练性能。CNN是一类包含卷积运算且具有深度结构的前馈神经网络（FeedforwardNeuralNetwork）。相比前边提到的BP神经网络，CNN最重要的特性在于“局部感知”与“参数共享”，自2012年设计的AlexNet开始，CNN已多次成为ImageNet大规模视觉识别挑战赛（ImageNetLargeScaleVisualRecognitionChallenge，ILSVRC）的优胜算法，至此，CNN开始大放异彩，成了众多科学领域的研究重点之一。

哈尔滨理工大学HarbinUniversityofScienceandTechnology电子信息工程系DepartmentofElectronicInformation7.1卷积神经网络CNN基本概述(5.8)CNN已经成为计算机视觉领域中最具影响力的革新的一部分。1984年，日本学者Fukushima基于感受野概念提出了神经认知机，这种神经认知机被认为是CNN的第一个实现网络。随后，国内外的研究人员提出了多种形式的CNN，并在邮政编码识别、在线的手写识别以及人脸识别方面等图像处理领域得到了成功的应用。经典的CNN由输入层、卷积层、池化层（也称下采样层）、全连接层及输出层组成。更为详细的CNN工作指的是挑一张图像，让它历经一系列卷积层、非线性层、池化层和全连接层，最终得到输出。CNN在图像分类问题中应用广泛。CNN结构

哈尔滨理工大学HarbinUniversityofScienceandTechnology电子信息工程系DepartmentofElectronicInformation7.1卷积神经网络卷积层(5.8)CNN的第一层通常是卷积层（ConvolutionalLayer），用它来进行特征提取。1．卷积运算（1）求点积（2）滑动窗口（3）重复操作

哈尔滨理工大学HarbinUniversityofScienceandTechnology电子信息工程系DepartmentofElectronicInformation7.1卷积神经网络卷积工作原理(5.8)过滤器与感受野想象有一束手电筒光正从图像的左上角照过。假设手电筒光可以覆盖5×5的区域，想象一下手电筒光照过输入图像的所有区域。在机器学习术语中，这束手电筒光被叫作过滤器［Filter，有时候也被称为神经元（Neuron）或卷积核（Kernel）］，被照过的区域被称为感受野（ReceptiveField）。过滤器同样也是一个数组（其中的数字被称作权重或参数）。以过滤器所在的第一个位置为例，即图像的左上角。当筛选值在图像上滑动（卷积运算）时，过滤器中的值会与图像中的原始像素值相乘（又称为计算点积）。这些乘积被加在一起（从数学上来说，一共会有75个乘积）。

哈尔滨理工大学HarbinUniversityofScienceandTechnology电子信息工程系DepartmentofElectronicInformation7.1卷积神经网络步幅和填充(5.8)要改变每一层的行为，有两个主要参数是可以调整的。选择了过滤器的尺寸以后，还需要选择步幅（Stride）和填充（Padding）。过滤器移动的距离就是步幅。步幅的设置通常要确保输出内容是一个整数而非分数。步幅为1步幅为2正常情况下，程序员如果想让接受域重叠得更少并且想要更小的空间维度（spatialdimensions）时，他们会增加步幅。

哈尔滨理工大学HarbinUniversityofScienceandTechnology电子信息工程系Departmentof