人工智能导论 第2版+电子课件-第7章 人工神经网络（2）-卷积神经网络.pptx

人工智能导论

AGuidetoArtificsialIntelligense.

通

L

版本：3.0

2020年10月

學

XTTnCM1TMLZGLNCE

第七章人工神经网络与

7.2.3卷积神经网络

·深度学习表现出优异性能

·模式识别类问题(例如：图像识别、语音识别)

·自然语言处理类问题(例如：机器翻译，语言模式)

·卷积神经网络(ConvolutionalNeuralNetworks,CNN)

·深度学习的典型代表之一

·前馈人工神经网络

·继BP网络之后，再次掀起ANN研究高潮

·极大地解决了模式识别应用化问题

·当前AI浪潮的动力之一

·ConvolutionalNeuralNetwork

·20世纪60年代，Hubel等人的生物学研究表明，视觉信息从视网膜传递到大脑中是通过多个层次的感受野激发完成。

·1980年，Fukushima第一次提出了基于感受野的理论模型，即CNN的前身-neocognitron。

·1998年，LeCun等人确定了CNN的结构，并设计了一种多层人工神经网络，即LeNet-5。

·LeNet-5通过交替连接的卷积层和下采样层对原始图像转换为一系列特征图，

·最后，通过全连接的神经网络对图像特征表达进行分类。

·LeNet-5采用BP算法训练网络。

卷积神经网络

卷积神经网络一=CNN

·基本架构

·卷积层(convolutionallayer)

·池化层(poolinglayer)

·全连接层(fully-connectedlayer)

·主要特点

·局部感知

·权值共享

CNN的核心思想

☆局部感知

◆一般认为人对外界的认知是从局部到全局的，

◆而图像的空间联系也是局部的像素联系较为紧密，而距离较远的像素相关性则较弱。

◆因而，每个神经元其实没有必要对全局图像进行感知，只需要对局部进行感知，

◆然后在更高层将局部的信息综合起来就得到了全局的信息

FULLYCONNECTEDNEURALNETLOCALLYCONNECTEDNEURALNET

Example:1000×1000imoge

10*12parameters!

100Mparameters

6

CNN的核心思想

☆权值共享

◆图像中某一部分的统计特性与其它部分是一样的。

☆卷积目的：

可以使原图片中的信号增强，可以降低噪声，有利于提取原特征

☆卷积可以看成一种映射：

一个原始图片通过卷积核函数变成了一个特征图。

卷积层

☆卷积

◆对信号的错位加权叠加

◆掩码g(m)反转后在信号f(n)上平移求和

☆一维离散卷积

M:信号f(n)的长度

g(m):滤波器或掩码

s(n):卷积结果序列，长度为len(fln)+len(g(n)-1

卷积概念

z=0,n=1,π=2,n=3,7=3,

g(n-m)s(θ)=2*1+0*2+0*3=2g(n-m)s(1)=3*+2*2+0*3=75(2)=1*1+3*2+2*3=13|s(3=8*1+1*2+3*3=11s(3)=0*1+1*2+3*3=12

f(n)=[1,2,3]

g(m)=[2,3,1]

8(-m)=[1,3,2](反转)

g(m-m)13

12

fn)

1320

123

通大學

f(n)f(n)

01

12

Jn)

g(n-m)

g(n-m)

fln)

1

2

3

3

2

1

3

3

2

3

13

0

3

0

1

0

2

2

2

卷积概念

◆卷积满足交换律

s(i,j)=(f*g)[i,j]=(g*f)[i,j]

18

54

51

239

244