人工神经网络方法（完整）.doc

第15章 人工神经网络方法 人工神经网络是在现代神经科学研究成果的基础上提出的一种抽象的数学模型, 它以某种简化、抽象和模拟等方式, 反映大脑功能的若干基本特征. 数学建模的人工神经网络方法就是从大量数据中利用某些方法，寻找该系统或事件的内在规律，建立该系统或事件的数据之间的联系，并用一种数学描述其输入与输出之间的关系. 它将一个系统的内在联系是通过数据、图表、图像、图形、公式、方程、网络结构等形式来体现的，所以，在某种程度上可以说，数据、图表、图像、图形、公式、方程、网络结构等都是该系统的模型表达，这种表达就是相似系统的概念。因此，数学建模就是由一种系统的模型表达转换为系统的另一种模型或表达形式, 比如数据、图表、图像、图形、公式、方程、网络结构等形式. 这种表达就是相似系统的概念. 数学建模的人工神经网络方法就是用人工神经网络的结构形式来代替实际物理系统模型。 15.1人工神经网简介 15.1.1什么是人工神经网络 人工神经网络（Artif icial Neural Network, ANN），简称为神经网络, 是由大量处理单元（人工神经元）广泛互连而成的网络，是对人脑的抽象、简化和模拟，反映人脑的基本特征. 它按照一定的学习规则, 通过对大量样本数据的学习和训练, 抽象出样本数据间的特性----网络掌握的“知识”, 把这些“知识”以神经元之间的连接权和阈值的形式储存在下来, 利用这些“知识”可以实现某种人脑的推理、判断等功能. 人工神经网络的研究是从人脑的生理结构出发来研究人的智能行为, 模拟人脑信息处理的能力。它是根植于神经科学、数学、统计学、物理学、计算机科学及工程等学科的一种技术。 15.1.2人工神经网络的要素 一个神经网络的特性和功能取决于三个要素：一是构成神经网络的基本单元----神经元；二是神经元之间的连续方式----神经网络的拓朴结构；三是用于神经网络学习和训练，修正神经元之间的连接权值和阈值的学习规则。 1．神经元 人工神经元是对生物神经元的功能的模拟。人的大脑中大约含有个生物神经元，生物神经元以细胞体为主体，由许多向周围延伸的不规则树枝状纤维构成的神经细胞，其形状很像一棵枯树的枝干。主要由细胞体、树突、轴突和突触(Synapse，又称神经键)组成，如图15－1所示。 图15－1 生物神经元示意图 生物神经元通过突触接收和传递信息。在突触的接受侧，信号被送入胞体，这些信号在胞体里被综合。其中有的信号起刺激作用，有的起抑制作用。当胞体中接受的累加刺激超过一个阈值时，胞体就被激发，此时它将通过枝蔓向其他神经元发出信号。 根据生物神经元的特点，人们设计人工神经元，用它模拟生物神经元的输入信号加权和的特性。设个输入分别用表示，它们对应的联接权值依次为，用表该神经元所获得的输入信号的累积效果，即该神经元的网络输入量，表示神经元的实际输出。图15－2给出了人工神经元基本特性示意图。 图15－2 人工神经元基本特性示意图 为了实现人工神经元的功能, 人工神经元有一个变换函数, 用于执行对该神经元所获的网络输入量的转换, 这就是激活函数, 它可以将神经元的输出进行放大处理或限制在一个适当的范围内. 一般地, 激活函数由以下几种形式: (1)硬极限函数，也叫阈值函数, 阶跃函数 常用于分类。 其中sgn(*)为符号函数。 (2)线性函数 常用于实现函数逼近的网络。 (3)饱和线性函数, 也叫非线性斜面函数, 它是最简单的非线性函数, 常用于分类。 (4)Sigmoidal函数, 也称S(型)函数, 压缩函数, 逻辑斯特函数 常用于分类、函数逼近或优化。 (5)高斯函数 常用于智能控制，系统优化，信息处理，模式识别等。 2. 网络的拓扑结构 单个的人工神经元的功能是简单的, 只有通过一定的方式将大量的人工神经元广泛的连接起来, 组成庞大的人工神经网络, 才能实现对复杂的信息进行处理和存储, 并表现出不同的优越特性. 根据神经元之间的连接的拓扑结构上的不同, 将人工神经网络结构分为两大类, 即层次型结构和互连型结构. (1) 层次型拓扑结构 层次型结构的神经网络将神经元按功能的不同分为若干层, 一般有输入层、中间层(隐层)和输出层，各层顺序连接， 如图15－3所示。输入层接受外部的信号，并由各输入单元传递给直接相连的中间层各个神经元。中间层是网络的内部处理单元层，它与外部没有直接连接，神经网络所具有的模式变换能力，如模式分类、模式完善、特征提取等，主要是在中间层进行的。根据处理功能的不同，中间层可以是一层、多层也可以。由于中间层单元不直接与外部输入输出进行信息交换，因此常将神经网络的中间层称为隐层，或隐含层，隐藏层等。输出层是网络输出运行结果并与显示设备或执行机构相连接的部分。 图15－3 层次型神经网络拓扑结构图