- 1、本文档共9页,可阅读全部内容。
- 2、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
- 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
- 5、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
- 6、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们。
- 7、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
- 8、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多
涉及问题:
1.每个图如何卷积:
??(1)一个图如何变成几个?
??(2)卷积核如何选择?
2.节点之间如何连接?
3.S2-C3如何进行分配?
4.16-120全连接如何连接?
5.最后output输出什么形式?
①各个层解释: 我们先要明确一点:每个层有多个Feature Map,每个Feature Map通过一种卷积滤波器提取输入的一种特征,然后每个Feature Map有多个神经元。 C1层是一个卷积层(为什么是卷积?卷积运算一个重要的特点就是,通过卷积运算,可以使原信号特征增强,并且降低噪音),由6个特征图Feature Map构成。特征图中每个神经元与输入中5*5的邻域相连。特征图的大小为28*28,这样能防止输入的连接掉到边界之外(是为了BP反馈时的计算,不致梯度损失,个人见解)。C1有156个可训练参数(每个滤波器5*5 25个unit参数和一个bias参数,一共6个滤波器,共 5*5+1 *6 156个参数),共156* 28*28 122,304个连接。 S2层是一个下采样层(为什么是下采样?利用图像局部相关性的原理,对图像进行子抽样,可以减少数据处理量同时保留有用信息),有6个14*14的特征图。特征图中的每个单元与C1中相对应特征图的2*2邻域相连接。S2层每个单元的4个输入相加,乘以一个可训练参数,再加上一个可训练偏置。结果通过sigmoid函数计算。可训练系数和偏置控制着sigmoid函数的非线性程度。如果系数比较小,那么运算近似于线性运算,亚采样相当于模糊图像。如果系数比较大,根据偏置的大小亚采样可以被看成是有噪声的“或”运算或者有噪声的“与”运算。每个单元的2*2感受野并不重叠,因此S2中每个特征图的大小是C1中特征图大小的1/4(行和列各1/2)。S2层有12个可训练参数和5880个连接。
图:卷积和子采样过程:卷积过程包括:用一个可训练的滤波器fx去卷积一个输入的图像(第一阶段是输入的图像,后面的阶段就是卷积特征map了),然后加一个偏置bx,得到卷积层Cx。子采样过程包括:每邻域四个像素求和变为一个像素,然后通过标量Wx+1加权,再增加偏置bx+1,然后通过一个sigmoid激活函数,产生一个大概缩小四倍的特征映射图Sx+1。 所以从一个平面到下一个平面的映射可以看作是作卷积运算,S-层可看作是模糊滤波器,起到二次特征提取的作用。隐层与隐层之间空间分辨率递减,而每层所含的平面数递增,这样可用于检测更多的特征信息。 C3层也是一个卷积层,它同样通过5x5的卷积核去卷积层S2,然后得到的特征map就只有10x10个神经元,但是它有16种不同的卷积核,所以就存在16个特征map了。这里需要注意的一点是:C3中的每个特征map是连接到S2中的所有6个或者几个特征map的,表示本层的特征map是上一层提取到的特征map的不同组合(这个做法也并不是唯一的)。(看到没有,这里是组合,就像之前聊到的人的视觉系统一样,底层的结构构成上层更抽象的结构,例如边缘构成形状或者目标的部分)。 刚才说C3中每个特征图由S2中所有6个或者几个特征map组合而成。为什么不把S2中的每个特征图连接到每个C3的特征图呢?原因有2点。第一,不完全的连接机制将连接的数量保持在合理的范围内。第二,也是最重要的,其破坏了网络的对称性。由于不同的特征图有不同的输入,所以迫使他们抽取不同的特征(希望是互补的)。 例如,存在的一个方式是:C3的前6个特征图以S2中3个相邻的特征图子集为输入。接下来6个特征图以S2中4个相邻特征图子集为输入。然后的3个以不相邻的4个特征图子集为输入。最后一个将S2中所有特征图为输入。这样C3层有1516个可训练参数和151600个连接。 S4层是一个下采样层,由16个5*5大小的特征图构成。特征图中的每个单元与C3中相应特征图的2*2邻域相连接,跟C1和S2之间的连接一样。S4层有32个可训练参数(每个特征图1个因子和一个偏置)和2000个连接。 C5层是一个卷积层,有120个特征图。每个单元与S4层的全部16个单元的5*5邻域相连。由于S4层特征图的大小也为5*5(同滤波器一样),故C5特征图的大小为1*1:这构成了S4和C5之间的全连接。之所以仍将C5标示为卷积层而非全相联层,是因为如果LeNet-5的输入变大,而其他的保持不变,那么此时特征图的维数就会比1*1大。C5层有48120个可训练连接。 F6层有84个单元(之所以选这个数字的原因来自于输出层的设计),与C5层全相连。有10164个可训练参数。如同经典神经网络,F6层计算输入向量和权重向量之间的点积,再加上一个偏置。然后将其传递给sigmoid函数产生单元i的一个状态。 最后,输出层由欧式径向基函数(Euclidean Radial Bas
您可能关注的文档
- 矩阵将一个5×5的矩阵中最大的元素放在中心,写一函数实现之。 用main函数调用。.ppt
- 聚合铝酸铁厂家聚合硫酸铁用途.ppt
- 聚佳羟基丙烯酸树脂.doc
- 聚甲基丙烯酸甲酯(PMMA)安全技术说明书.doc
- 聚酯纤维的结构和性能.ppt
- 卷积编码和Viterbi译码.doc
- 绝对值集体备课(表格式).doc
- 掘进巷道矿压监测有关知识.doc
- 军品与奥运会的不解之缘.doc
- 卡布西游元旦节--元气收集.doc
- JB_T 13208-2017 印刷机械 卷筒料激光模切机.docx
- JB_T 13211-2017 印刷机械 窄幅卷筒料圆压圆模切机.docx
- JB_T 13213-2017 印刷机械 纸盒窗口贴膜机.docx
- GB_T 30420.1-2024 缝制机械术语 第1部分:通用术语.docx
- GB_T 4822-2023 锯材检验标准规范.docx
- GB_T 22849-2024 针织T恤衫标准规范.docx
- GB_T 144-2024 原木检验标准规范.docx
- GB_T 31903-2024 服装衬布产品标记、标志与包装.docx
- GB_T 31904-2024 非织造粘合衬.docx
- GB_T 32252-2024 熔模铸造工艺 通用技术导则.docx
1亿VIP精品文档
相关文档
最近下载
- 试论判例作为民法第1 条之习惯法 【台】吴从周教授 《台大法学论丛》第39卷第2期.pdf
- 民用建筑通用规范GB55031-2022(完整清晰版).pdf
- 【申报表】基于语言建构与运用的“读思达“ 教学法实践研究.doc
- 校园安全稳定工作“日报告、零报告”.docx
- 2024年深圳市高三年级第二次调研考试(二模)数学试卷(含官方答案).pdf
- 甲亢健康教育课件.pptx VIP
- 九下《出师表》文言文对比阅读35篇(含答案).pdf
- 小区智能化弱电系统维护工程报价清单.xls VIP
- 《中国行政制度史》.ppt
- 中国行业标准 NB/T 11118.5-2023煤矿综采工作面机电设备EtherNet/IP通信接口和协议 第5部分:供液系统设备数据表.pdf
文档评论(0)