深度学习基础课件.pptVIP

CNN的Pooling过程 如果人们选择图像中的连续范围作为池化区域，并且只是池化相同(重复)的隐藏单元产生的特征，那么，这些池化单元就具有平移不变性 (translation invariant)。这就意味着即使图像经历了一个小的平移之后，依然会产生相同的 (池化的) 特征。 图像具有一种“静态性（stationarity）”的属性，可以对图像某一个区域上的特征取平均值 (或最大值)。这种聚合的操作就叫做池化 (pooling)。 * PPT课件 CNN的优点 参数减少与权值共享 如下图所示，如果我们有1000x1000像素的图像，有1百万个隐层神经元，那么他们全连接的话（每个隐层神经元都连接图像的每一个像素点），就有 个连接，也就是10^12个权值参数。 局部连接网络，每一个节点与上层节点同位置附近10x10的窗口相连接，则1百万个隐层神经元就只有 ，即10^8个参数。其权值连接个数比原来减少了四个数量级。  * PPT课件 卷积神经网络避免了显式的特征取样，隐式地从训练数据中进行学习。这使得卷积神经网络明显有别于其他基于神经网络的分类器，通过结构重组和减少权值将特征提取功能融合进多层感知器。它可以直接处理灰度图片，能够直接用于处理基于图像的分类。 ???? 卷积神经网络较一般神经网络在图像处理方面有如下优点： a）输入图像和网络的拓扑结构能很好的吻合； b）特征提取和模式分类同时进行，并同时在训练中产生； c）权重共享可以减少网络的训练参数，使神经网络结构变得更简单，适应性更强。 * PPT课件 经典例子：文字识别系统LeNet-5 ??1. 输入图像是32x32的大小,卷积核的大小是5x5的，则C1层的大小是28x28。这里设定有6个不同的C1层，每一个C1层内的权值是相同的。 ? 2. S2层是一个下采样层，由4个点下采样为1个点，也就是4个数的加权平均，加权系数也需要通过学习得到。这个过程也叫做Pool。 3.我们很容易得到C3层的大小为10x10，不过，C3层有16个10x10网络! 我们只需要按照一定的规则来组合S2的特征图。具体的组合规则在?LeNet-5 系统中给出了下面的表格： * PPT课件 ?4. ?S4 层是在C3层基础上进行下采样，前面已述。在后面的层中每一层节点个数比较少，都是全连接层，这里不再赘述。 小结： 经过计算，LeNet-5系统总共需要大约13万个参数，这与前面提到的全连接系统每个隐藏层就需要百万个参数有着天壤之别，极大地减少了计算量。 在以上的识别系统中，每个特征图提取后都紧跟着一个用来求局部平均与二次提取的亚取样层。这种特有的两次特征提取结构使得网络对输入样本有较高的畸变容忍能力。也就是说，卷积神经网络通过局部感受野、共享权值和亚取样来保证图像对位移、缩放、扭曲的鲁棒性。 * PPT课件 Convolutional Neural Networks for P300 Detection with Application to Brain-Computer Interfaces * PPT课件 PPT课件 PPT课件 PPT课件 PPT课件 PPT课件 PPT课件 PPT课件 PPT课件 PPT课件 PPT课件 PPT课件 PPT课件 Deep Learning * PPT课件 目录 深度学习简介 深度学习的训练方法 深度学习常用的几种模型和方法 Convolutional Neural Networks卷积神经网络 卷积神经网络（CNN）在脑机接口中的应用 * PPT课件 What is Deep Learning? A brief introduce of deep learning * PPT课件 机器学习 机器学习（Machine Learning）是一门专门研究计算机怎样模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构市值不断改善自身的性能的学科，简单地说，机器学习就是通过算法，使得机器能从大量的历史数据中学习规律，从而对新的样本做智能识别或预测未来。 机器学习在图像识别、语音识别、自然语言理解、天气预测、基因表达、内容推荐等很多方面的发展还存在着没有良好解决的问题。 * PPT课件 特征的自学习 传统的模式识别方法： 通过传感器获取数据，然后经过预处理、特征提取、特征选择