人工智能创新实验教程 课件 第14章 卷积神经网络.pptx

宁夏大学第十四章卷积神经网络

2目录

CONTENT01引言02模型概述03实验数据04模型构建05本章小结

引言01

引言在简单学习深度学习的背景和上一章较为基础的感知机算法后，本章节将学习深度学习经典的卷积神经网络。卷积神经网络是一种具有局部连接、权重共享等特性的深层前馈神经网络。最早主要是用来处理图像信息。卷积神经网络在短时间内，变成了一种颠覆性的技术，打破了从文本、视频到语音等多个领域所有最先进的算法，远远超出了其最初在图像处理的应用范围。

模型概述02

1卷积神经网络的产生6卷积神经网络是受生物学上感受野机制的启发而提出的。举个简单而直观例子来了解感受野，人眼看到物体的情况，如下图所示：图中眼睛里其中的一个神经元，它会盯着图像，但它并不会盯着图像的每一个像素，它只会盯着图像的一部分。盯的一部分，称为感受野，也就是感受一部分视野。另外一个神经元它又会盯着另外的一部分，但是它们有重叠。这就相当于一些神经元看线，另外一些神经元会看线的方向，这些线和方向会组合成一些更大的感受野，然后组成一些基础图像，基础图像再组合成我们的所看到的图像。

2卷积神经网络基本机构7目前的卷积神经网络一般是由卷积层、汇聚（池化）层和全连接层交叉堆叠而成的前馈神经网络。卷积神经网络主要有两个结构上的特性：局部连接、权重共享。这些特性使得卷积神经网络具有一定程度上的平移、缩放和旋转不变性。和前馈神经网络相比，卷积神经网络的参数更少。积神经网络主要使用在图像和视频分析的各种任务（比如图像分类、人脸识别、物体识别、图像分割等）上，其准确率一般也远远超出了其他的神经网络模型。下图给出一种经典的卷积网络结构用于图像分类的一种卷积神经网络

2.1卷积层8为什么要使用卷积方法：用全连接神经网络处理大尺寸图像具有三个明显的缺点：（1）首先将图像展开为向量会丢失空间信息；（2）其次参数过多效率低下，训练困难；（3）同时大量的参数也很快会导致网络过拟合。而使用卷积神经网络可以很好地解决上面的三个问题。卷积层的作用：1.?滤波器的作用。卷积层的参数是有一些可学习的滤波器集合构成的。每个滤波器在空间上都比较小，但是深度和输入数据一致。直观地来说，网络会让滤波器学习到当它看到某些类型的视觉特征时就激活。2.?可以被看做是神经元的一个输出。神经元只观察输入数据中的一小部分，并且和空间上左右两边的所有神经元共享参数（因为这些数字都是使用同一个滤波器得到的结果）。3.?降低参数的数量。这个由于卷积具有“权值共享”这样的特性，可以降低参数数量，达到降低计算开销，防止由于参数过多而造成过拟合。

2.1卷积层9卷积层最主要的两个特征就是局部连接和权值共享。所谓局部连接，就是卷积层的节点仅仅和其前一层的部分节点相连接，只用来学习局部特征。局部感知结构的构思理念来源于动物视觉的皮层结构，其指的是动物视觉的神经元在感知外界物体的过程中起作用的只有一部分神经元。在计算机视觉中，图像中的某一块区域中，像素之间的相关性与像素之间的距离同样相关，距离较近的像素间相关性强，距离较远则相关性就比较弱，由此可见局部相关性理论也适用于计算机视觉的图像处理领域。因此，局部感知采用部分神经元接受图像信息，再通过综合全部的图像信息达到增强图像信息的目的。这种局部连接的方式大幅减少了参数数量，加快了学习速率，同时也在一定程度上减少了过拟合的可能。

2卷积层特点10卷积层的另一大特征是权值共享，比如一个3*3的卷积核，共9个参数，它会和输入图片的不同区域作卷积，来检测相同的特征。而只有不同的卷积核才会对应不同的权值参数，来检测不同的特征。如下图所示，通过权值共享的方法，这里一共只有3组不同的权值，如果只用了局部连接的方法，共需要3*4=12个权值参数，而加上了权值共享的方法后，现在仅仅需要3个权值，更进一步地减少参数数量。

2.1卷积层11如图可以看到如下几个参数：两个神经元，即depth=2，意味着有两个滤波器。数据窗口每次移动两个步长取3*3的局部数据，取stride=2、zero-padding=1。然后分别以两个滤波器filter为轴滑动数组进行卷积计算，得到两组不同的结果。??左边是输入（7*7*3中，7*7代表图像的像素/长宽，3代表R、G、B三个颜色通道）中间部分是两个不同的滤波器Filterw0、Filterw1最右边则是两个不同的输出、随着左边数据窗口的平移滑动，滤波器Filterw0/?Filterw1对不同的局部数据进行卷积计算。为更好理解卷积层，下图给出