人工神经网络ANN详解.ppt

　2. 人工神经网络基础 　3. 典型的神经网络模型 1. 绪论 人脑的结构、机制和功能中凝聚着无比的奥秘和智慧。 地球是宇宙的骄子， 人类是地球的宠儿， 大脑是人类的主宰。 探索人脑的奥秘，从中获得智慧，在其启发下构造为人类服务的高级智能系统。 1、人工神经网络的提出 人类对智能的两种研究方式： 基于传统的人工智能技术—— 心理角度的模拟 基于人工神经网络的技术—— 生理角度的模拟 1、人工神经网络的提出 思维 逻辑思维： 形象思维： 灵感思维： 经验、直觉等——仿生学 概念、推理、判断——物理符号+串行规则 2、人工神经网络研究的历史回归 萌芽时期(20世纪50年代之前) 1943年， McCulloch-Pitts的M-P模型(神经元模型) 1949年， Hebb学习率 高潮时期(20世纪50年代中期到20世纪60年代末期) 单层感知器 用电子线路模拟人脑 反思时期(20世纪60年代末到20世纪80年代初期) “异或”运算不可表示，多层感知器的学习规则不知 蓬勃发展时期(20世纪80年代以后) 1982年，Hopfield循环网络的提出，涉及了网络的动力学问题 1986年，BP网络较好地解决了多层网络的学习问题 3、人工神经网络的功能应用 (1) 联想记忆功能 (2) 非线性映射功能 (3) 分类与识别功能 神经网络 自动提取 非线性映射规则 输入样本 输出样本 3、人工神经网络的功能应用 (5) 知识处理功能 3、人工神经网络的功能应用 (4) 优化计算功能 由同一神经网络实现 神经网络专家系统的构成 问题解答 知识分布式表示 知识获取、知识库 平行推理 输入数据 求解的问题 变量变换 1、ANN的生物学基础 生物神经元示意图 生物神经元在结构上由细胞体、 树突、轴突、突触四部分组成。用来完成神经元间信息的接收、传递和处理。 生物神经元 生物神经网络 人类的大脑大约有1.4?1011个神经细胞，亦称为神经元。每个神经元有数以千计的通道同其它神经元广泛相互连接，形成复杂的生物神经网络。 人工神经网络(Artificial Neural Networks, ANN) ANN是对人类大脑系统的一阶特性的一种描述，简单讲，它是一个由许多简单的并行工作的处理单元组成的数学模型，可以用电子线路来实现，也可以用计算机程序来模拟，是AI研究的一种方法。 ANN力求从物理结构、计算模拟、存储与操作、训练四个方面来模拟人脑的智能行为。 2、人工神经网络定义 3、神经元的人工模型 神经元及其突触是生物神经网络的基本器件。因此，模拟生物神经网络应首先模拟生物神经元——人工神经元(节点、处理单元) 从三个方面进行模拟: 节点本身的信息处理能力(数学模型) 节点与节点之间连接(拓扑结构) 相互连接的强度(通过学习来调整) 决定人工神经网络整体性能的三大要素 3、神经元的人工模型 神经元模型示意图 4、M-P模型（处理单元，PE） 1943年，心理学家McCulloch和数学家Pitts建立起了著名的阈值加权和模型，简称为M-P模型 网络输入： 转移函数/激活函数/激励函数/活化函数 x2 w2 ? ∑ xn wn … x1 w1 人工神经元模型 数学模型 (a)阈值型 (b)分段线性型 (c) Sigmoid函数型 (d)双曲正切型 常用的激发函数 常见的响应函数有以下几种类型： 4、M-P模型（处理单元，PE） 5、ANN的拓扑结构与训练 ANN中，各PE的不同连接方式就构成了网络的不同连接模型，常见： 前向前馈网络 从输入层到输出层有反馈的网络 层内有互联的网络 互联网络 (1) ANN的拓扑结构 (2) ANN的训练 ANN能够通过