人工智能导论第4章 人工神经网络与深度学习.pptxVIP

人工神经网络与深度学习人工智能导论

作为机器学习的一种重要技术，人工神经网络是一个形式上非常简单，但分类功能非常强大的机器学习工具。无论是在计算机科学、通信、生物统计和医学，还是在金融和经济学（包括股市预测）中，大多数与“智能”有点关系的问题，都可以归结为一个在多维空间进行模式分类的问题，而这些正是人工神经网络所擅长的模式分类。随着计算机计算能力的提高和大数据时代的来临，对人工神经网络的研究进入了一个崭新的时代，深度学习大概念被提出。深度学习的核心理念是通过增加网络的层数来让机器自动地从数据中进行学习，可以凭借无标签的数据进行学习，而不需要依赖于监督信息的支撑。目前，深度学习的研究和应用如火如荼，其成果也成为AI领域关注的的焦点。

本章内容4.14.24.34.4神经网络发展概况神经元人工神经网络深度学习

神经网络发展概况众所周知，人脑是由几十多亿个高度互联的神经元组成的复杂生物网络，也是人类分析、联想、记忆和逻辑推理等能力的来源。模拟人脑中信息存储和处理的基本单元——神经元而组成的人工神经网络模型具有自学习与自组织等智能行为，能够使机器具有一定程度上的智能水平。

借助现代计算机计算能力的提升,卷积神经网络CNN将神经网络推向第三次发展高潮21世纪初Hopfield神经网络、Kohonen神经网络等的出现,特别是BP网络及算法的提出,将神经网络推向第二次发展高潮20世纪80年代由于各种预言的失败,研究经费被大量削减甚至取消,人工智能进入被称为“AIWinter”的人工智能之冬20世纪60年代这里添加标题人工神经网络发展概况

M-P神经元和Hebb学习规则20世纪40年代Hodykin-Huxley方程感知器模型与自适应滤波器20世纪50年代自组织映射网络、神经认知机、自适应共振网络20世纪60年代

人工神经网络发展概况目前模拟人脑复杂的层次化认知特点的深度学习已经成为类脑智能中的一个重要研究方向。通过增加网络层数所构造的“深层神经网络”使机器能够获得“抽象概念”能力，在诸多领域都取得了巨大的成功，又掀起了神经网络研究和应用的一个新高潮。

神经元

神经元生物神经元结构

神经元人工神经元

神经元感知机1958年，Rosenblatt等人以M-P模型为基础，成功研制出了名为MarkI的感知机（Perceptron），这是历史上首个将神经网络的学习功能用于模式识别的装置，标志着神经网络进入了新的发展阶段。简单来说，感知机就是最早的神经元模型。感知机是一个二分类的线性分类模型，是最早的监督式训练算法，也是神经网络构建的基础。感知机一定能将线性可分的数据集分开，所谓线性可分是：在二维平面上，线性可分意味着能用一条线将正负样本分开；在三维空间中，线性可分意味着能用一个平面将正负样本分开。因此，通过感知器就可以对新的实例实现准确预测。

人工神经网络人工神经网络（Artificialneuralnetwork，简称ANN）是一个用大量简单处理单元经广泛连接而组成的人工网络，用以进行分布式并行信息处理的算法数学模型，在工程与学术界也常直接简称为神经网络或类神经网络。

人工神经网络人工神经网络特点高度的并行性高度的非线性全局作用良好的自适应、自学习功能人工神经网络有很多同样的简单处理单元并联组合而成，尽管每一个神经元的功能简单，但大量简单神经元并行处理能力和效果，却十分惊人。人工神经网络每一个神经元接受大量其它神经元的输入，并通过并行网络产生输出，影响其它神经元，网络之间的这样的互相制约和互相影响，实现了从输入状态到输出状态空间的非线性映射，从全局的观点来看，网络总体性能不是网络局部性能的叠加，而表现出某种集体性的行为。人工神经网络通过学习训练获得网络的权值与结构，呈现出非常强的自学习能力和对环境的自适应能力。这种自适应性依据所提供的数据，通过学习和训练，找出输入和输出之间的内在关系，从而求取问题的解，而不是依据对问题的经验知识和规则。

人工神经网络人工神经网络结构所有结点都是分层的，每一层结点都可以通过有向弧指向下一层结点，但是同一层结点之间没有弧互相连接，而且每一个结点不能越过下一层连接到下下层的结点上。每一条弧上有一个值，称为权重或者权值。根据这些值，可以用一个非常简单的公式算出它们所指向结点的值，比如结点Y1的值取决于X1和X2的值，以及相应有向弧上的权值W11和W21。虽然这里只画了三层结点，但是在理论上，人工神经网络的层数可以是任意的。

人工神经网络人工神经网络的学习（1）监督式学习神经网络利用一套输入-输出对进行训练。其目的是教会网络从给定的信息输入中识别出目标输出。针对训练集合中每一个样例数据，网络接收一个输入，产生一个实际输出。每一次训练后，网络比对实际输出和目标输出，通过微调相关权重值来纠正输出差异，直到实际