深度学习基础宣讲课件.pptVIP

深度学习基础宣讲;目录;What is Deep Learning?;机器学习;特征的自学习;深度学习;人脑的视觉机理; 由此可知人的视觉系统的信息处理是分级的，高层的特征是低层特征的组合，从低层到高层的特征表示越来越抽象，越来越能表现语义或者意图，抽象层面越高，存在的可能猜测就越少，就越利于分类。 ;浅层学习与深度学习;受到大脑结构分层的启发，神经网络的研究发现多隐层的人工神经网络具有优异的特征学习能力，学习得到的特征对数据有更本质的刻画，从而有利于可视化或分类；而深度神经网络在训???上的难度，可以通过“逐层初始化”来有效克服。 深度学习可以通过学习一种深层非线性网络结构，实现复杂函数逼近，表征输入数据分布式表示，并展现了强大的从少数样本中集中学习数据及本质特征的能力。 ;深度学习的实质 通过构建具有很多隐层的机器学习模型和海量的训练数据，来学习更有用的特征，从而最终提升分类或预测的准确性。因此，“深度模型”是手段，“特征学习”是目的。 深度学习与浅层学习的区别 强调了模型结构的深度，通常有5-10多层的隐层节点； 明确突出了特征学习的重要性，通过逐层特征变换，将样本在原空间的特征表示变换到一个新特征空间，从而使分类或预测更加容易。与人工规则构造特征的方法相比，利用大数据来学习特征，更能够刻画数据的丰富内在信息。;深度学习的训练方法;深度学习与神经网络的异同;深度学习与神经网络的异同;深度学习的训练过程;深度学习的几种常用模型;Convolutional Neural Networks(CNN);Convolutional Neural Networks(CNN);卷积神经网络原理图;CNN的Convolution过程;CNN的Pooling过程;CNN的优点; 卷积神经网络避免了显式的特征取样，隐式地从训练数据中进行学习。这使得卷积神经网络明显有别于其他基于神经网络的分类器，通过结构重组和减少权值将特征提取功能融合进多层感知器。它可以直接处理灰度图片，能够直接用于处理基于图像的分类。 ???? 卷积神经网络较一般神经网络在图像处理方面有如下优点： a）输入图像和网络的拓扑结构能很好的吻合； b）特征提取和模式分类同时进行，并同时在训练中产生； c）权重共享可以减少网络的训练参数，使神经网络结构变得更简单，适应性更强。 ;经典例子：文字识别系统LeNet-5;?4. ?S4 层是在C3层基础上进行下采样，前面已述。在后面的层中每一层节点个数???较少，都是全连接层，这里不再赘述。 小结： 经过计算，LeNet-5系统总共需要大约13万个参数，这与前面提到的全连接系统每个隐藏层就需要百万个参数有着天壤之别，极大地减少了计算量。 在以上的识别系统中，每个特征图提取后都紧跟着一个用来求局部平均与二次提取的亚取样层。这种特有的两次特征提取结构使得网络对输入样本有较高的畸变容忍能力。也就是说，卷积神经网络通过局部感受野、共享权值和亚取样来保证图像对位移、缩放、扭曲的鲁棒性。 ;Convolutional Neural Networks for P300 Detection with Application to Brain-Computer Interfaces ;P300检测;输入正则化;神经网络拓扑结构;神经网络拓扑结构;CNN的学习规律;*;*;*;神经网络拓扑结构;Thank You！