cnn反向传播.pptxVIP

反向传输调整权重反向传输过程是CNN最复杂的地方，虽然从宏观上来看基本思想跟BP一样，都是通过最小化残差来调整权重和偏置，但CNN的网络结构并不像BP那样单一，对不同的结构处理方式不一样，而且因为权重共享，使得计算残差变得很困难反向传输调整权重　和BP一样，CNN的输出层的残差与中间层的残差计算方式不同，输出层的残差是输出值与类标值得误差值，而中间各层的残差来源于下一层的残差的加权和。输出层的残差计算如下：输出层的残差反向传输调整权重下一层为采样层的卷积层的残差采样层（L+1）的map大小是卷积层L的1/（scale*scale），scale取2，卷积层L的某个map中的4个神经元与L+1层对应map的一个神经元关联，可以对采样层的残差与一个scale*scale的全1矩阵进行克罗内克积进行扩充，使得采样层的残差的维度与上一层的输出map的维度一致反向传输调整权重下一层为采样层的卷积层的残差： o 为元素对应相乘。 有了残差，我们就可以求出该层每个特征图的偏置项和卷积核的导数，公式为：反向传输调整权重下一层为卷积层的采样层的残差 由反向传播算法可知，如果要求第L层的残差，需要利用第L+1层与之相关的所有像素的残差。 如图，P为采样层，K为卷积核，C为卷积层。卷积层C的计算结果如下： 反向传输调整权重下一层为卷积层的采样层的残差 当我们计算P1 ,P2上午残差时，需要利用与之相关的所有C1，C2的残差，即：同理，可得到如下对应： 反向传输调整权重下一层为卷积层的采样层的残差 当把卷积层C周围填充0，对卷积核直接做相关操作时就满足要求。在MATLAB中的残差公式如下所示：1、演示沟通，下一个互联网远程信息传递和直接信息沟通。互联网实现了远程信息技术的重大突破，带来了不可估量的市场空间。直接信息沟通呢？以往沟通=语言的交流。演示沟通=但自从有了电脑、互联网、投影，沟通领域正发生一场革命——演示沟通。把所要表达的内容制作成生动形象的画面，利用电脑、投影或大屏幕展示出来，并通过语言进行讲解，让观众更加高效地认识或理解。1、演示沟通，下一个互联网远程信息传递和直接信息沟通。互联网实现了远程信息技术的重大突破，带来了不可估量的市场空间。直接信息沟通呢？以往沟通=语言的交流。演示沟通=但自从有了电脑、互联网、投影，沟通领域正发生一场革命——演示沟通。把所要表达的内容制作成生动形象的画面，利用电脑、投影或大屏幕展示出来，并通过语言进行讲解，让观众更加高效地认识或理解。1、演示沟通，下一个互联网远程信息传递和直接信息沟通。互联网实现了远程信息技术的重大突破，带来了不可估量的市场空间。直接信息沟通呢？以往沟通=语言的交流。演示沟通=但自从有了电脑、互联网、投影，沟通领域正发生一场革命——演示沟通。把所要表达的内容制作成生动形象的画面，利用电脑、投影或大屏幕展示出来，并通过语言进行讲解，让观众更加高效地认识或理解。1、演示沟通，下一个互联网远程信息传递和直接信息沟通。互联网实现了远程信息技术的重大突破，带来了不可估量的市场空间。直接信息沟通呢？以往沟通=语言的交流。演示沟通=但自从有了电脑、互联网、投影，沟通领域正发生一场革命——演示沟通。把所要表达的内容制作成生动形象的画面，利用电脑、投影或大屏幕展示出来，并通过语言进行讲解，让观众更加高效地认识或理解。1、演示沟通，下一个互联网远程信息传递和直接信息沟通。互联网实现了远程信息技术的重大突破，带来了不可估量的市场空间。直接信息沟通呢？以往沟通=语言的交流。演示沟通=但自从有了电脑、互联网、投影，沟通领域正发生一场革命——演示沟通。把所要表达的内容制作成生动形象的画面，利用电脑、投影或大屏幕展示出来，并通过语言进行讲解，让观众更加高效地认识或理解。