851-第四章 人工神经网络.pptVIP

第四章 人工神经网络 教师姓名：张 勇 课程名称：智能控制 神经网络是在生物功能启示下建立起来的一种数据处理技术。它是由大量简单神经元互连而构成的一种计算结构，在某种程度上模拟生物神经系统的工作过程，从而具备解决实际问题的能力。 神经网络具有很强的自适应性和学习能力、非线性映射能力、鲁棒性和容错能力。 4.1 神经网络概念 神经元模型 生物神经元模型 脑神经元由细胞体、树突和轴突构成。细胞体是神经元的中心，它一般又由细胞核、细胞膜等组成。树突是神经元的主要接受器，它主要用来接受信息。轴突的作用主要是传导信息，它将信息从轴突起点传到轴突末梢。 轴突末梢与另一个神经元的树突或胞体构成一种突触的机构。通过突触实现神经元之间的信息传递。 生物神经元工作状态 神经元具有两种常规工作状态：兴奋与抑制，当传入的神经冲动使细胞膜电位升高超过阈值时，细胞进入兴奋状态，产生神经冲动并由轴突输出；当传入的神经冲动使膜电位下降低于阈值时，细胞进入抑制状态，没有神经冲动输出。 人工神经元模型(MP模型) 人工神经网络是利用物理器件来模拟生物神经网络的某些结构和功能。 人工神经元的输入与输出关系: 其中： 为阈值 为连接权值 为激活函数 常用的输入输出函数(基函数激活函数): 人工神经元网络 人工神经元网络的组成原理 人工神经网络是一个并行和分布式的信息处理网络结构，该网络结构一般由许多个神经元组成，每个神经元有一个单一的输出，它可以连接到很多其它的神经元，其输入有多个连接通路，每个连接通路对应一个连接权系数。 严格说来，神经网络是一个具有如下性质的有向图。 对于每个结点有一个状态变量 结点 i 到结点j有一个连接权系数 对于每个结点有一个阈值 对于每个结点定义一个变换函数 典型神经网络结构 根据神经元之间连接的拓扑结构上的不同，可将神经网络结构分为两大类：层状结构和网络结构。 层状结构的神经网络是由若干层组成，每层中有一定数量的神经元，相邻层中神经元单向联接，一般同层内的神经元不能联接。 几种常见的网络结构 前向网络（前馈网络） 不含反馈的前向网络的结构形态。网络中的神经元分层排列，接受输入量的神经元节点组成输入层，产生输出量的神经元节点组成输出层，中间层亦称为隐层，可以有若干层隐层。每一层的神经元只接受前一层神经元的输入，输入向量经过各层的顺序变换后，由输出层得到输出向量。 从输出层到输入层有反馈的前向网络 从输出层到输入层有反馈的前向网络简称为反馈神经网络。网络中的神经元也是分层排列，但是输入层神经元在学习过程中接受输出层神经元或部分输出层神经元的反馈输入。 层内有相互结合的前向网络 每一层的神经元除接受前一层神经元的输入之外，也可接受同一层神经元的输入。 通过层内神经元之间的相互结合，可以实现同层神经元之间横向的抑制或兴奋机制，从而可以限制一层内能同时动作的神经元的个数。 相互结合型网络 这种网络中任意两个神经元之间都可能有连接。在不含反馈的前向网络中，输入信号一旦通过某个神经元就将输出这个信号的变换值。但是，在相互结合型网络中，输入信号要在神经元之间反复往返传递，网络处于一种不断改变状态的动态之中。从某初态开始，经过若干次的状态变化，网络才会到达某种稳定状态，根据网络的结构和神经元的映射特性，网络还有可能进入周期振荡或其他平衡状态，如混沌状态。 神经网络的学习方法及规则 学习方式：有导师学习和无导师学习 学习就是对信息进行编码,其目的就是通过向有限个例子（训练样本）的学习来找到隐藏在例子背后的规律（如函数形式），即，重复的修正权值Wi。 监督就是对每一个输入Xi,都假定我们已经知道它的期望输出Yi,这个Yi可以理解为监督信号，也叫“导师信号”。对每一个输入Xi及其对其估计的期望输出Yi，就构成了一个训练样本。 学习种类 一般说来学习的种类有四种：Hebb学习规则，离散感知器学习规则，W-H学习规则及 学习规则。 有导师学习主要使用的是 学习律，所以，在此主要介绍 学习律。 学习律：用已知例子作为导师对网络的权值进行学习。其规则是通过神经网络理想输出和实际输出之间的误差来修正网络的权值。在很多神经网络中，都采用了这种学习方法，如单层及多层感知器和BP算法等。 4.2 前馈神经网络 前馈神经网络的概念 具有分层的结构。最前面一层是输入层，中间是隐层，最后一层是输出层。其信息从输入层依次向上传递，直至输出层。这样的结构称为前馈网络。 感知器网络 感知器(perceptron) 是最简单的前馈网络，也是早期仿生学的研究成果，主要功能是用于对不同的输入模式进行分类。 单层感知器网络 是具有单层神经元、采用线性阈值函数的前馈网络。通过对权值的训练，可使感知