ch3神经网络.ppt

基于神经网络的决策支持系统 神经网络概念 神经网络:泛指生物神经网络与人工神经网络。 生物神经网络:指由中枢神经系统及周围神经系统所构成的错综复杂的神经网络，它负责对动物机体各种活动的管理，其中最重要的是脑神经系统。 人工神经网络：指模拟人脑神经系统的结构和功能，运用大量的处理部件，由人工方式建立起来的网络系统。 一、脑神经系统与生物神经元 脑神经系统:神经系统是由结构上相对独立的神经细胞构成的。据估计，人脑神经系统的神经细胞约为1011个。 生物神经元 生物神经元组成：神经细胞称之为生物神经元。神经元主要由三个部分组成：细胞体、轴突、树突。 细胞体：由细胞核、细胞质与细胞膜等组成。它是神经元的新陈代谢中心，同时还用于接收并处理对其它神经元传递过来的信息。 轴突：由细胞体向外伸出的最长的一条分枝，每个神经元一个，其作用相当于神经元的输出电缆，它通过尾部分出的许多神经末梢以及梢端的突触向其它神经元输出神经冲动。 (3) 树突：这是由细胞体向外伸出的除轴突外的其它分枝，长度一般均较短，但分枝很多。它相当于神经元的输人端，用于接收从四面八方传来的神经冲动。 (4) 突触：是神经元之间相互连接的接口部分，即一个神经元的神经末梢与另一个冲经元的树突相接触的交界面，位于神经元的神经末梢尾端。 生物神经元组成 神经元之间的联系: 轴突及突触与其它许多神经元建立联系。 树突接收来自不同神经元的信息。 神经元之间的这种复杂联系就形成了相应的神经网络。 神经元重要特性： (1) 动态极化原则：在每一神经元中，信息都是以预知的确定方向流动的，即从神经元的接收信息部分 (细胞体、树突)传到轴突的起始部分，再传到轴突终端的突触，最后再传递给另一神经元。 (2) 时空整合处理功能：神经元对于不同时间通过同一突触传入的信息，具有时间整合功能；对于同一时间通过不同突触传人的信息，具有空间整合功能。 (3) 兴奋与抑制工作状态： 兴奋状态：指神经元对输入信息经整合后使细胞膜电位升高，且超过了动作电位的阈值，此时产生神经冲动，并由轴突输出。 抑制状态：指经对输入信息整合后，膜电位下降至低于动作电位的阈值，此时无神经冲动输出。 (4) 结构的可塑性：突触传递信息的特性是可变的，随着神经冲动传递方式的变化，其传递作用可强可弱。 (5) 突触界面具有脉冲与电位信号的转换功能。沿轴突传递的电脉冲是等幅、离散的脉冲信号，而细胞膜电位变化为连续的电位信号，这两种信号是在突触接口进行变换的。 (6) 突触对信息的传递具有时延和不应期。在相邻的两次输入之间需要一定的时间间隔，在此期间不响应激励，不传递信息，这称为不应期。 二、人工神经元及其互连结构 人工神经网络是由大量处理单元 (人工神经元、处理元件、电子元件、光电元件等) 经广泛互连而组成的人工网络，用来模拟脑神经系统的结构和功能。 信息的处理是由神经元之间的相互作用来实现。 知识与信息的存储表现为网络元件互连间分布式的物理联系。 网络的学习和识别取决于各神经元连接权值的动态演化过程。 1、人工神经元 人工神经元是组成人工神经网络的基本处理单元，简称为神经元。 心理学家麦克洛奇(W．McCulloch)和数理逻辑学家皮兹(W.Pitts)于1943年首先提出了一个简化的神经元模型，称为M-P模型 。 M-P模型 圆表示神经元的细胞体； e，i 表示外部输入，对应于生物神经元的树突。e为兴奋性突触连接，i 为抑制性突触连接； θ表示神经元兴奋的阈值； y 表示输出，它对应于生物神经元的轴突。 M-P 模型对抑制性输入赋于了“否决权”，只有当不存在抑制性输入，且兴奋性输入的总和超过阈值，神经元才会兴奋，其输入与输出的关系如表所示。 M-P模型输入输出关系表 在M-P模型基础上发展起来的常用神经网络模型如图所示： x(i=1，2，…，n) 为该神经元的输入 Wi 为该神经元分别与各输入间的连接强度，称为连接权值； θ为该神经元的阈值， s 为外部输入的控制信号，它可以用来调整神经元的连接权值，使神经元保持在某一状态； y 为神经元的输出。 神经元的工作过程一般是： (1) 从各输人端接收输入信号xi； (2) 根据连接权值wi，求出所有输入的加权和σ ： (3) 用某一特性函数 ( 又称变换函数) f 进行转换，得到输出y： 变换函数，它决定神经元（节点）的输出。该输出为1或0，取决于其输入之和大于或小于内部阈值 。函数一般具有非线性特性。下图表示了几种常见的激发函数。 1. 阈值型函数（见图（a），（b）） 2. 饱和型函数（见图（c）） 3. 双曲函数（见图（d）） 4.