人工神经网络及其应用PPT课件.pptVIP

人工神经网络及其应用;1、概述;人工神经网络是从微观结构与功能上对人脑神经系统的模拟而建立起来的一类模型，具有模拟人的部分形象思维的能力。其特点主要是具有非线性、学习能力和自适应性，是模拟人的智能的一条重要途径。 它是由简单信息处理单元（人工神经元，简称神经元）互联组成的网络，能接受并处理信息。网络的信息处理由处理单元之间的相互作用来实现，它是通过把问题表达成处理单元之间的连接权来处理的。;多年来，学者们建立了多种神经网络模型，决定其整体性能的三大要素为： （1）神经元（信息处理单元）的特性。 （2）神经元之间互相连接的形式——拓扑结构。 （3）为适应环境而改善性能的学习规则。 神经网络是人脑的某种抽象、简化和模拟，反映了人脑功能的若干基本特性： （1）网络的信息处理由处理单元间的相互作用来实现，并具有并行处理的特点。 （2）知识与信息的存储，表现为处理单元之间分布式的物理联系。 （3）网络的学习和识别，决定于处理单元连接权系的动态演化过程。 （4）具有联想记忆的特性。;2 神经网络概念 2.1 生物神经元模型 脑神经元由细胞体、树突和轴突构成。细胞体是神经元的中心，它一般又由细胞核、细胞膜和细胞质组成。树突胞体上短而多分支的突起，相当于神经元的输入端，是神经元的主要接受器，它主要用来接受信息。轴突是胞体上最长枝的突起，也称神经纤维。它的端部有很多神经末梢，传出神经冲动。轴突的作用主要是传导信息，它将信息从轴突起点传到轴突末梢（精神末梢）。 轴突末梢与另一个神经元的树突或胞体构成一种突触的机构。通过突触实现神经元之间的信息传递。突触是神经元之间的连接接口，每一个神经元约有104~105个突触。 一个神经元，通过其轴突的神经末梢，经突触，与另一个神经元的树突连接，以实现信息的传递。由于突触的信息传递特性是可变的，随着神经冲动传递方式的变化，传递作用强弱不同，形成了神经元之间连接的柔性，称为结构的可塑性。;2. 常用的作用函数 神经元模型的作用函数，用以模拟神经细胞的兴奋、抑制以及阈值等非线性特性。 ;3. 学习规则 MP模型在发表时并没有给出一个学习算法来调整神经元之间的来连接权值。但是，我们可以根据需要 ，采用一些常见的算法来调整神经元连接权，以达到学习的目的。下面介绍的Hebb学习规则就是一个常见学习算法。 Hebb学习规则：神经网络具有学习功能。对于人工神经网络而言，这种学习归结为：若第i个和第j个神经元同时处于兴奋状态，则它们之间的连接应当加强，即： 这一规则与”条件反射“学说一致，并已得到神经细胞学说的证实。α是表示学习速率的比例常数。 ;2.4 神经网络的互联模式 根据连接方式的不同，神经网络的神经元之间的连接有如下几种形式。 1）前向网络 前向网络结构如下图。神经元分层排列，分别组成输入层、中间层（也称为隐含层，可以由若干层组成）和输出层。每一层的神经元只接受来自前一层神经元的输入，后面的层对前面的层没有信号反馈。输入模式经过各层次的顺序传播，最后在输出层上得到输出。感知器网络和BP网络均属于前向网络。;2）有反馈的前向网路 其结构如下图。输出层对输入层有信息反馈，这种网络可用于存储某种模式序列。如神经认知机和回归BP网络都属于这种类型。;3）层内有相互结合的前向网络 其结构如下图。通过层内神经元的相互结合，可以实现同一层内神经元之间的横向抑制或兴奋抑制。这样可以限制每层内可以同时动作的神经元素，或者把每层内的神经元分为若干组，让每一组作为一个整体进行运作。例如，可以利用横向抑制机理把某层内具有最大输出的神经元挑选出来，从而抑制其他神经元，使之处于无输出的状态。;4）相互结合型网络（全互联或部分互联） 相互结合型网络结构如下图。这种网络在任意两个神经元之间都可能有连接。在无反馈的前向网络中，信号一旦通过，某神经元，该神经元的处理就结束了。而在相互结合的网络中，信号要在神经元之间反复传递，网络处于一种不断改变状态的动态之中。信号从某初始状态开始，经过若干次变化，才会达到某种平衡状态。根据网络的结构和神经元的特性，网络的运行还有可能进入周期震荡或其他如混沌等平衡状态。;2.5 神经网络的学习方式 神经网络的学习也成为训练，指的是通过神经网络所在环境的刺激作用调整神经网络的参数（权值和域值），使神经网络以一种新的方式对外部环境做出反应的一个过程。能够从环境中学习和在学习中提高自身性能是神经网络的最有意义的性质。根据学习过程的组织方式不同，学习方式分为两类：有监督学习和无监督学习。 1）有监督学习：对于监督学习，网络训练往往要基于一定数量的训练样本。训练样本通常由输入矢量和目标矢量组成。在学习和训练过程中，网络根据实际输出与期望输出的比较，进行连接权值和域值的调节。通过将期望输出成为导师信号，它是评价学习的标准。最典型