神经网络在数学建模竞赛中的应用程序.docVIP

第1章 引言 1.1 人工神经网络的介绍 人工神经网络（Artificial Neural Networks, ANN），亦称为神经网络（Neural Networks,NN））人工神经网络具有四个基本特征： 　（1）非线性 非线性关系是自然界的普遍特性.大脑的智慧就是一种非线性现象.人工神经元处于激活或抑制二种不同的状态，这种行为在数学上表现为一种非线性关系.具有阈值的神经元构成的网络具有更好的性能，可以提高容错性和存储容量. 　（2）非局限性 一个神经网络通常由多个神经元广泛连接而成.一个系统的整体行为不仅取决于单个神经元的特征，而且可能主要由单元之间的相互作用、相互连接所决定.通过单元之间的大量连接模拟大脑的非局限性.联想记忆是非局限性的典型例子. 　（3）非常定性 人工神经网络具有自适应、自组织、自学习能力.神经网络不但处理的信息可以有各种变化，而且在处理信息的同时，非线性动力系统本身也在不断变化.经常采用迭代过程描写动力系统的演化过程. （4）非凸性 一个系统的演化方向，在一定条件下将取决于某个特定的状态函数.例如能量函数，它的极值相应于系统比较稳定的状态.非凸性是指这种函数有多个极值，故系统具有多个较稳定的平衡态，这将导致系统演化的多样性.）秒，而在硅芯片中处理一事件只需秒.但人脑是一个非常高效的结构，大脑中每秒钟每个动作的能量约为焦耳. 神经元是基本的信息处理单元.生物神经元主要由树突、轴突和突触组成.其结构示意如如图1-1所示. 其中树突是由细胞体向外伸出的，有不规则的表面和许多较短的分支.树突 图1-1 生物神经元模型 相当于信号的输入端，用于接收神经冲动.轴突由细胞体向外伸出的最长的一条分支，即神经纤维.相当于信号的输出电缆，其端部的许多神经末梢为信号输出端子，用于传出神经冲动.神经元之间通过轴突（输出）和树突（输入）相互联接，其接口称为突触.每个细胞约有个突触.神经突触是调整神经元之间相互作用的基本结构和功能单元，最通常的一种神经突触是化学神经突触，它将得到的电信号化成化学信号，再将化学信号转化成电信号输出.这相当于双接口设备.它能加强兴奋或抑制作用，但两者不能同时发生.细胞膜内外有电位差，越位，称为膜电位.膜外为正，莫内为负. 神经元作为信息处理的基本单元，具有如下重要的功能. 可塑性：可塑性反映在新突触的产生和现有的神经突触的调整上， 可塑性使适应周围的环境. 2）时空整合功能：时间整合功能表现在不同时间、同一突触上；空间整合功能表现在同一时间、不同突触上. 3）兴奋与抑制状态：当传入冲动的时空整合结果，使细胞膜电位升高，超过被称为动作电位的阀值（约为40mv）的离散脉冲信号，而细胞电位变化为连续信号.在突触接口处进行“数/模”转换.神经元中的轴突非长和窄，具有电阻高、电压大的特性，因此轴突可以建模成阻容传播电路. 5）突触的延时和不应期：突触对神经冲动的传递具有延时和不应期，在相邻的二次冲动之间需要一个时间间隔.在此期间对激励不响应，不能传递神经冲动. 6）学习、遗忘和疲劳：突触的传递作用有学习、遗忘和疲劳的过程. 1.3.2 人工神经网络的模型 人工神经网络是由大量处理单元广泛互连而成的网络，是人脑的抽象、简化、模拟，反映人脑的基本特性.一般神经元模型应该具备三个要素： （1）具有一组突触或联接，常用表示神经元和神经元之间的联系强度，或称之为权值.与人脑神经元不同，人工神经元权值的取值可在负值与正值之间. （2）具有反映生物神经元时空整合功能的输入信号累加器. （3）具有激励函数用于限制神经元输出.激励函数将输出信号压缩（限制）在一个允许范围内，使其成为有限值，通常，神经元输出的扩充范围在或闭区间. 一个典型的人工神经元模型如图1-2所示. 图1-2 人工神经元模型 其中为神经元的输入信号，为突触强度或联接权.是由输入信号线性组合后的输出，是神经元的净收入.为神经元的阀值或称为偏差用表示，为经偏差调整后的值，也称为神经元的局部感应区. （1-1） （1-2） 是激励函数，是神经元的输出. （1-3） 激励函数可取不同的函数，但常用的基本激励函数有以下三种： （1）阀值函数（Threshold Function） （1-4） 该函数通常也称为阶跃函数，常用表示，如图1-3a所示.若激励函数采用阶跃函