第六章 人工神经元计算方法.docVIP

第六章 人工神经元计算方法 第一节 概述 神经网络理论的应用取得了令人瞩目的发展特别是在人工智能、自动控制、计算机科学、信息处理、机器人、模式识别、CAD/CAM等方面都有重大的应用实例。下面列出一些主要应用领域： （1）模式识别和图像处理。语音识别、签字识别、指纹识别、人体病理分析、目标检测与识别等。 （2）控制和优化。过程控制、机器人运动控制、等。 （3）预报和智能信息管理。股票市场预测、地震预报、有价证券管理、借贷风险分析、IC卡管理和交通管理。 人工神经元网络 在人工神经元网络中，模拟生物神经元的单元一般称为神经元。一个神经元有许多输入通道（树突），它通常用简单求和的方式对所有输入值进行合成操作。操作结果是神经元的一个内部激发值，由传递函数作进一步的修改。传递函数可以是阈值函数，只有当激发值达到一定水平时才输出信号。传递函数也可以是合成输入的连续函数。传递函数的输出值接传送到神经元的输出通道。常用传递函数形式如下所示。 神经元的信号处理过程如图6-2所示。 神经元的输出通道可通过一个相应的权，输入到神经元的信号在求和前进进行权操作。因此，和函数实际上是一个加权和。 Wj1 神经元 Wj2 输出 . . Wjn . 联结权 图6-2神经元的计算模型 神经元网络由许多相互联结在一起的神经元所组成。神经元按层进行组织，连续两层之间全部或随机联结。通常有两层与外界联系即输入与输出层，其他层称为隐层。 网络计算 神经元网络的计算分两个阶段——学习和记忆。 网络学习，即对网络进行训练，是一个根据施加在输入层与输出层的刺激来调整网络联结权的计算过程。输出层的刺激对应于给定输入之期望响应，必须由有经验的“教师”给出。这种学习称为有导师的学习。 人工神经元计算的特点 神经元计算不同事传统的计算与人工智能，主要现在如下几个方面： 样本学习 传统专家系统（一种模拟人类专家解决领域问题的计算机程序系统学习过程由信号的正向传播与误差的反向传播两个过程组成。1）正向传播：输入样本－输入层－各隐层（处理）－输出层注1：若输出层实际输出与期望输出（教师信号）不符，则转入2）（误差反向传播过程）2）误差反向传播：输出误差（某种形式）－隐层（逐层）－输入层其主要目的是通过将输出误差反传，将误差分摊给各层所有单元，从而获得各层单元的误差信号，进而修正各单元的权值（其过程，是一个权值调整的过程）。 该算法实质是求误差函数的极小值，它通过多个样本的反复训练，并采用最快下降法使得权值沿着误差函数负梯度方向改变，并收敛于最小点。 网络训练与测试 网络训练实际上是一个确定联结权的学习过程。反向传播网络用所谓有导师的学习技术来训练，即输入和目标输出训练样本成对地提代给网络。训练样本是一个实数矢量。目标输出是输入样本的期望响应，用来确定调整联结权所需的网络误差。 训练样本可重复使用。一次训练迭代提供给网络一对输入-输出样本，一个训练循环包括所有的样本。反向传播网络的训练通常需要成千上万次训练循环。 网络训练的收敛准则一般用输出误差的均方根（RMS）值不定义。收敛是指RMS值越来越逼近0的过程。常需要很长的时间。如果训练样本具有代表性，网络一般可收敛到一个较小的RMS值。若存在局部极小，可用一些技术，例如，改变学习参数或增加隐层神经元的数目，使网络避开局部最小。给联结权一个随机摄动，也可使网络离开局部最小位置。如果新的位置离开局部最小位置足够远，则收敛就朝新的方向进行，而不至于停滞在原先的最小位置。 习题 什么是神经网络？反向传播网至少有几层？ 为什么神经网络具有联想记忆、容错能力？与网络结构有什么关系？ 神经网络信息主要存储在什么地方？学习目的是什么？ 1 求和 传递 函数