引言深度学习课件.pptVIP

引言;2016年3月，阿尔法围棋与围棋世界冠军、职业九段棋手李世石进行围棋人机大战，以4比1的总比分获胜； 2017年5月，在中国乌镇围棋峰会上，它与排名世界第一的世界围棋冠军柯洁对战，以3比0的总比分获胜。 深度学习作为阿尔法围棋的主要工作原理，也正走近人们的视野，受到越来越多的关注。;;自2006年，深度学习（Deep Learning）已经成为机器学习研究中的一个新兴领域，通常也被叫做深层结构学习或分层学习。其动机在于建立、模拟人脑进行分析学习的神经网络，它模拟人脑的机制来解释数据，例如图像??声音和文本。 深度学习的概念源于人工神经网络的研究，含多隐层的多层感知器就是一种深度学习结构。深度学习通过组合低层特征形成更加抽象的高层表示属性类别或特征，已发现数据的分布式特征表示。 ;人脑视觉机理;位于后脑皮层的不同视觉神经元，与瞳孔所受刺激之间，存在某种对应关系。一旦瞳孔受到某一种刺激，后脑皮层的某一部分神经元就会活跃。 例如，从原始信号摄入开始（瞳孔摄入像素 Pixels），接着做初步处理（大脑皮层某些细胞发现边缘和方向），然后抽象（大脑判定，眼前的物体的形状，是圆形的），然后进一步抽象（大脑进一步判定该物体是只气球）。 ;人的视觉系统的信息处理是分级的。从低级的V1区提取边缘特征，再到V2区的形状或者目标的部分等，再到更高层，整个目标、目标的行为等。 高层的特征是低层特征的组合，从低层到高层的特征表示越来越抽象，越来越能表现语义或者意图。 抽象层面越高，存在的可能猜测就越少，就越利于分类。例如，单词集合和句子的对应是多对一的，句子和语义的对应又是多对一的，语义和意图的对应还是多对一的，这是个层级体系。 关键词：分层。而Deep learning的deep就表示存在多少层，也就是有多深。;远在古希腊时期，发明家就梦想着创造能自主思考的机器。 神话人物皮格马利翁(Pygmalion)、代达罗斯(Daedalus)和赫淮斯托斯(Hephaestus) 可以被看作传说中的发明家，而加拉蒂亚(Galatea)、塔洛斯(Talos) 和潘多拉(Pandora) 则可以被视为人造生命。;在人工智能的早期，那些对人类智力来说非常困难、但对计算机来说相对简单的问题得到迅速解决，比如，那些可以通过一系列形式化的数学规则来描述的问题。 人工智能的真正挑战在于解决那些对人来说很容易执行、但很难形式化描述的任务，如识别人们所说的话或图像中的脸。;人工智能系统需要具备自己获取知识的能力，即从原始数据中提取模式的能力。 这种能力被称为机器学习（machine learning）。引入机器学习使计算机能够解决涉及现实世界知识的问题，并能作出看似主观的决策。;机器学习算法的性能在很大程度上依赖于给定数据的表示（representation）。 在计算机科学中，如果数据集合被精巧地结构化并被智能地索引，那么诸如搜索之类的操作的处理速度就可以成指数级地加快。;不同表示的例子：假设我们想在散点图中画一条线来分隔两类数据。在左图，我们使用笛卡尔坐标表示数据，这个任务是不可能的。右图中，我们用极坐标表示数据，可以用垂直线简单地解决这个任务。;许多人工智能任务可通过以下方式解决：先提取合适的特征集，然后将特征提供给简单的机器学习算法。 对于许多任务来说，很难知道应该提取哪些特征。解决这个问题的途径之一是使用机器学习来发掘表示本身，而不仅仅把表示映射到输出。这种方法我们称之为表示学习（representation learning）。;表示学习算法的典型例子是自编码器（autoencoder）。自编码器由一个编码器（encoder）函数和一个解码器（decoder）函数组合而成。 编码器函数将输入数据转换为一种不同的表示，而解码器函数则将这个新的表示转换到原来的形式。 我们期望当输入数据经过编码器和解码器之后尽可能多地保留信息，同时希望新的表示有各种好的特性。;从原始数据中提取高层次、抽象的特征是非常困难的。诸如说话口音这样的变差因素，只能通过对数据进行复杂的、接近人类水平的理解来辨识。 深度学习（deep learning）通过其他较简单的表示来表达复杂表示，解决了表示学习中的核心问题。;左图展示了深度学习系统如何通过组合较简单的概念（例如转角和轮廓，它们转而由边线定义）来表示图像中人的概念。深度学习模型的典型例子是前馈深度网络或多层感知机。;深度学习是机器学习的一种，一种能够使计算机系统从经验和数据中得到提高的技术。;深度学习的历史趋势;目前为止深度学习已经经历了三次发展浪潮： 20 世纪40年代到60年代深度学习的雏形出现在控制论（cybernetics）中。 20世纪80年代到90年代深度学习表现为联结主义（connectionism）。 自2006年，深度