[工学]安全工程实验数据分析方法-4人工神经网络.ppt

安全工程实验数据分析方法四、人工神经网络理论与应用 1 概述 人工神经网络(ANN)简称神经网络，是对人类生物大脑处理信息过程进行抽象模拟的一种大规模并行计算模型。它基于现代生物学研究成果，用大量简单的处理单元广泛连接组成的复杂网络，来模拟人类生物大脑神经网络的学习、记忆、推理、归纳等功能。 1.1 生物神经网络的信息处理特点 (1)并行处理。大脑对接受到的信息以多个神经元并行处理方式进行。研究表明，每一神经元的输入输出都至少具有1000个以上的突触与外部环境相连。由此可以解释为什么尽管传统的以串行方式处理信息的数值计算机处理一条信息的指令至少比大脑神经元快106倍(Crick，1979)，但大脑处理信息，尤其是推理信息则更快。 (2)知识存储。在大脑中，信息被认为是存储在神经元之间的连接上(Grossberg，新的信息通过调整连接权强度而加入，即新的知识是以调整旧的知识，而不是置换旧的知识的形式加入，这为大脑特有的学习能力提供了一个解释。 1.1 生物神经网络的信息处理特点 (3)断层容忍。即单个神经元的损害不会严重影响大脑的信息处理能力(Hopfield，1982)。这种性质表明大脑是以分布形式存储信息的，每一概念或知识不是放在单个神经元上，而是分布在多个神经元和它们之间的连接上。如果大脑的一部分神经元被损坏，概念或知识仍将通过残余的分布编码的信息而保留下来。 1.1 生物神经网络的信息处理特点 (4)分布式处理。大脑中不存在任何具有独裁控制处理的中心，去监测每一个神经元的活动。相反，大脑是一个无政府系统(Crick，1979)，信息是以分布式形式被处理。每一个神经元的输出仅是由它的突触激励之和的输出。因此，每一神经元仅处理它可得到的局域信息。显然，这就可解释为什么大脑不会形成信息处理的“瓶颈”效应，这在那些具有中央控制器的信息处理系统(如数值计算机或基于算子的反演系统)中是一极为棘手的难题。 1.2 人工神经网络的定义 1986年Hecht—Nielsen对人工神经网络给出了一个广义的，但又是严格的定义： “一个神经网络是一并行的，分布式信息处理系统。它由具有局域记忆以及能进行局域信息处理的处理单元(神经元)构成，这些处理单元由称为连接的单向流信号通道相互联接在一起。每一处理单元具有单一的输出连接，它可分支(扇出)成为任意的并联连接(每一个都载有相同的信号——处理单元输出信号)。处理单元的输出也可是任意期望的数学类型。每一个处理单元内的信息处理必须是完全局域的，即处理仅依赖于处理元素当前的输入信号和存储在处理元素局域记忆中的信号。” 1.3 人工神经网络的特点 分布表示、局域运算和非线性处理是描述人工神经网络的三个主要元素。这三个元素决定了目前由应用而产生的人工神经网络模型系统具有以下三个主要特征： (1)数据驱动的学习。人工神经网络具有从提供的例子数据中学习的能力，并且是自适应和自组织的学习，即在计算中并不要求事先存在先验的算子，因此不存在传统信息处理中的“瓶颈”效应，此外，对于处理的信息类型也不存在限制，也自然不会出现“窄台阶”效应。 (2)非线性处理。人工神经网络可以自适应的学习到数据间的各种高度复杂非线性关系，为目前传统计算中面临的非线性困难提供了新的处理技术。 (3)并行处理。人工神经网络通常应用通过广泛内联接的大量处理单元进行处理，具有分布式的信息存储能力和鲁棒性，并容易由并行算法编程实现。 上述特征也决定了人工神经网络的两个基本应用领域：对巨量的数据，要求作少量的决策；复杂的非线性映射关系的逼近或估计。 2 人工神经网络理论基础 2.1 神经元数学模型 神经元是人工神经网络的基本处理单元，有时也被称为结点，阈逻辑单元等。它一般是一多输入/单输出的非线性单元，其结构如下图所示。图中A={a1，a2，…，an}为输入矢量，Wj=(w1j，w2j，…，wnj)为编号为j的神经元与向其传输信息的n个其他神经元之间的联接权值矢量，或联接强度矢量；θj为该神经元的内部阈值；w0j是调节θj的权值；bj为该神经元的输出。 2.1 神经元数学模型 神经元的典型数学模型为 2.1 神经元数学模型 f被用来模拟生物神经元的非线性特性，通常有以下几种类型： （a为正实数） (1)线性型，如下图a所示。 (2)斜坡型。当上式的线性阈函数被限制在[-a，a]区间内时，就成为图b所示的非线性斜坡型阈值函数，也有人称为分段线性。 2