卷积神经网络CNN讲义.ppt

卷积神经网络CNN;主要内容;卷积神经网络提出的背景;卷积神经网络提出的背景;浅层神经网络的缺陷;卷积神经网络;卷积神经网络应用;重点概念;C1层： 输入图片大小： 32*32 卷积窗大小： 5*5 卷积窗种类： 6 输出特征图数量： 6 输出特征图大小： 28*28 (32-5+1) 神经元数量： 4707 [(28*28)*6)] 连接数： 12304 [(5*5+1)*6]*(28*28) 可训练参数： 156 [(5*5+1)*6] ;S2层： 输入图片大小： (28*28)*6 卷积窗大小： 2*2 卷积窗种类： 6 输出下采样图数量：6 输出下采样图大小：(14*14)*6 神经元数量： 1176 (14*14)*6 连接数： 5880 (2*2+1)*(14*14)*6 可训练参数： 12 (6*(1+1)) ;卷积和子采样过程： 卷积过程包括：用一个可训练的滤波器fx去卷积一个输入的图像（第一阶段是输入的图像，后面的阶段就是卷积特征map了），然后加一个偏置bx，得到卷积层Cx。 子采样过程包括：每邻域四个像素求和变为一个像素，然后通过标量Wx+1加权，再增加偏置bx+1，然后通过一个sigmoid激活函数，产生一个大概缩小四倍的特征映射图Sx+1。;C3层 输入图片大小：(14*14)*6 卷积窗大小：5*5 卷积窗种类：15 输出特征图数量：16 输出特征图大小：10*10 (14-5+1) 神经元数量：1600 [(10*10)*16)] 连接数： 151600 (60+16)*(10*10)*25 （部分连接） 可训练参数：1516 [(60+16)*25] ; 连接数计算： 151600 = [(60+16)*25]*(10*10) 60 = 3*6+9*4+6；16是因为每种神经元都有一个常数连接;S4层： 输入图片大小： (10*10)*16 卷积窗大小： 2*2 卷积窗种类： 16 输出下采样图数量：16 输出下采样图大小：(5*5)*16 神经元数量： 400 (5*5)*16 连接数： 2000 (2*2+1)*(5*5)*16 可训练参数： 32 (16*(1+1)) ;C5层： 输入图片大小： (5*5)*16 卷积窗大小： 5*5 卷积窗种类： 120 输出特征图数量： 120 输出特征图大小： 1*1 (5-5+1) 神经元数量： 120 (1*120) 连接数： 48120 [16*(5*5)+1]*1*120(全连接） 可训练参数： 48120 [16*(5*5)+1]*1*120;F6层： 输入图片大小： (1*1)*120 卷积窗大小： 1*1 卷积窗种类： 84 输出特征图数量： 84 输出特征图大小： 1 神经元数量： 84 连接数： 10164 120*84（全连接） 可训练参数： 10164 120*84;OUTPUT层： 输入图片大小： 1*84 输出特征图数量： 1*10 最后,输出层有10个神经元，是由径向基函数单元(RBF)组成，输出层的每个神经元对应一个字符类别。RBF单元的输出 ,是由公式： ;卷积神经网络的衰落;深度学习的崛起;深度学习在图像识别中的应用;;这个惊人的结果为什么在之前没有发生？ 原因当然包括算法的提升，比如dropout等防止过拟合技术，但最重要的是，GPU带来的计算能力提升和更多的训练数据。百度在2012年底将深度学习技术成功应用于自然图像OCR识别和人脸识别等问题，并推出相应的桌面和移动搜索产品，2013年，深度学习模型被成功应用于一般图片的识别和理解。 从百度的经验来看，深度学习应用于图像识别不但大大提升了准确性，而且避免了人工特征抽取的时间消耗，从而大大提高了在线计算效率。可以很有把握地说，从现在开始，深度学习将取代“人工特征+机器学习”的方法而逐渐成为主流图像识别方法。;总结;总结