深度学习课件.pptx

目录;;目录;背景;背景;背景

;背景;定义;发展--传统特征提取;机器学习中，获得好的特征是识别成功的关键,目前存在大量人工设计的特征，不同研究对象特征不同，特征具有多样性,手工选取特征费时费力，需要专业知识，很大程度上靠经验和运气,是否能自动地学习特征？;

一般而言，特征越多，给出信息就越多，识别准确性会得到提升；

但特征多，计算复杂度增加，探索的空间大，可以用来训练的数据在每个特征上就会稀疏。

;

1981年的诺贝尔医学奖获得者DavidHubel和TorstenWiesel发现了视觉系统的信息处理机制

发现了一种被称为“方向选择性细胞的神经元细胞，当瞳孔发现了眼前的物体的边缘，而且这个边缘指向某个方向时，这种神经元细胞就会活跃;从原始信号摄入开始（瞳孔摄入像素Pixels），接着做初步处理（大脑皮层某些细胞发现边缘和方向），然后抽象（大脑判定，眼前的物体的形状，是圆形的），然后进一步抽象（大脑进一步判定该物体是只气球）;

大数据时代对海量数据处理的需求，深度学习强大的学习能力可以从大量数据中提取有效特征；

科技发展对智能化的需求，深度学习是有史以来最接近人类智能的学习模型；

计算机硬件的发展使得计算能力越来越高而计算成本越来越低，特别是GPU计算及并行计算的发展，使得在大量样本上对复杂模型的训练成为可能；

新的训练算法和各种有效的训练技巧的提出，大大提高了深层模型的训练效率和泛化能力

;

我们无法完全掌握人类大脑的工作原理。中国的科学家正在研究一个新的大脑图谱，他们将之命名为“脑网络穹顶”项目。在美国，随着奥巴马政府宣布将支持筹建一项跨学科的科研项目“基于神经科学技术创新的人脑研究”。

搞清楚人类大脑成千上万的神经元如何互相连结以及中枢神经系统存储和处理信息的原理，那么对于“人工大脑”的设想就能够更加清晰，对于人脑的研究成果和数据将能购帮助深度学习算法的研究，也能加速诸如计算机“视觉”、语言分析。

;前景;;左边是一个2层神经网络，隐层由4个神经元（也可称为单元（unit））组成，输出层由2个神经元组成，输入层是3个神经元。

右边是一个3层神经网络，两个含4个神经元的隐层。

注意：层与层之间的神经元是全连接的，但是层内的神经元不连接。;SVMLossfunction;;卷积神经网络;;图像的尺寸是5*5*3，有2个滤波器，它们的步长S是2,补零是1.因此，输出数据体的空间尺寸是

(5-3+2)/2+1=3。

下面的例子在绿色的输出激活数据上循环演示，展示了其中每个元素都是先通过蓝色的输入数据和红色的滤波器逐元素相乘，然后求其总和，最后加上偏差得来。

;;;;;;Alex-Net2012;常用的深度学习框架;;深度学习在图像识别方向的应用;特征学习;深层结构;提取全局特征和上下文信息;联合深度学习;应用-物体识别;应用-人脸识别;应用-物体检测;应用-视频分析;;;语音识别历史;语音识别原理;语音识别系统架构;DNN—HMM声学建模;DNN—HMM训练;DNN—HMM解调;;ThankYou！