人工神经络方法课件.pptVIP

人工神经网络方法 ——原理及应用 人工神经网络方法 人工神经网络简介 应用实例 ——长江三角洲地区 城市体系的职能分类 人工神经网络，是一个具有高度非线性的超大规模连续时间动力系统，是由大量的处理单元(神经元)广泛互连而形成的网络。是人脑的某种抽象、简化与模拟。 人工神经网络的特点和优越性：具有自学习功能 ；具有联想存储功能 ；具有高速寻找优化解的能力。 在现代地理学中，人工神经网络方法特别适用于地理模式识别、地理过程模拟与预测、复杂地理系统的优化计算等问题的研究。 人工神经网络简介 神经元模型 神经网络的基本结构 人工神经网络的工作原理 人工神经网络的学习规则 神经网络模型的种类 MP模型是一个多输出单输出的非线性元件。 在MP模型中，f是二值函数，其输出值为0或1，分别代表神经元的抑制和兴奋状态，它可以用阶跃函数表示，即 当wji0时，为兴奋性突触结合；当wji0时，为抑制性突触结合；当wji=0时，为无结合。 * 张倩倩、孙晶 yi θi x1 x2 xn W1i W2i Wni 神经元模型 神经元模型 基于生物神经元构造，W.McCulloch和W.Pitts于1943年建立了一个模拟神经元功能的数学模型，这个模型被称为MP模型。 神经元构成的神经网络如图所示。 yj wkj θj j# θk k# θi i# θm m# wij wmi wki yi ym yk … 神经网络 神经元之间的突触结合有兴奋性和抑制性两种。在下图中，（a）和（b）分别给出了两个神经元串行连接和相互结合型连接的情形。 (a) 1 2 y1 w21 y2 2 1 y1 y2 (b) w12 w21 两个神经元的不同连接 （a）所示的两个神经元串行连接，当w210为兴奋性连接时，若神经元1处于兴奋状态，则神经元2也处于兴奋状态；当w210为抑制性连接时，若神经元1处于兴奋状态，反而会使神经元2容易处于抑制状态。在（b）中，两个神经元处于相互结合性状态，若w12和w21均为正，则某一个神经元处于兴奋状态时，另一个神经元也倾向于兴奋状态，这称为神经元之间的协调作用；若w12和w21均为均为负，则当某一个神经元处于兴奋状态时，另一神经元倾向于抑制状态，这称为神经元之间的竞争作用。协调和竞争是神经网络中并行信息处理的基本动态特性。 神经网络的基本结构 把大量的神经元通过一定的拓扑结构连接起来，就形成了神经网络。神经元之间的连接方式有相互结合型结构和层状结构两大类 。 2 1 4 3 5 (a) 相互结合型 1 2 3 4 5 (b) 层状结构 神经网络的结构 图(a)所示的相互结合型神经网络系统中存在着反馈环。在神经元的学习过程中，进行误差反馈。反馈有正、负之分，正反馈使系统发生振荡，负反馈使系统稳定。在大脑神经系统中，由于负反馈的存在，使控制抑制的机构起着十分重要的作用。正反馈对大脑神经元的同步动作起着一定的作用。在图(b)所示的层状神经网络结构中，信号依特定的方向传播。在生物体内，大脑皮质之间、感觉器官和大脑之间，就可以看作是一种分层结构，即功能模块级的分层。在大脑内确实存在各种机理不同的功能模块，这一点被大脑的解剖研究已经证明，而且每一个模块内部是由神经元组成的并行处理系统。 人工神经网络的工作原理 人工神经网络首先要以一定的学习准则进行学习，然后才能工作。网络学习的准则应该是：如果网络作出错误的判决，则通过网络的学习，应使得网络减少下次犯同样错误的可能性。将模式分布地记忆在网络的各个连接权值上。当网络再次遇到其中任何一个模式时，能够作出迅速、准确的判断和识别。神经网络的工作过程主要由两个阶段组成，一个阶段是工作期，此时各连接权值固定，计算单元的状态变化，以求达到稳定状态。另一阶段是学习期(自适应期，或设计期)，此时各计算单元状态不变，各连接权值可修改(通过学习样本或其他方法)，前一阶段较快，各单元的状态亦称短期记忆(STM)，后一阶段慢的多，权及连接方式亦称长期记忆(LTM)。 人工神经网络的学习规则 神经网络的学习过程，一般是，首先设定初时权值，如果无先验的知识，初时权值可设定为随机值。接着输入样本数据进行学习，参照评价标准进行评判。如果达到要求，就停止学习，否则按照给定的学习法则调整权值，继续进行学习，直到取得满意的结果为止。 神经网络的学习规则，主要包括误差传播式学习、联想学习、竞争性（Competitive）学习和基于知识的学习等。各种学习规则都是以Hebb规则为基础的。 误差传播式学习 感知器（Perceptron）是神经网络中的一种最基本的神经网络模型，它是F.Rosenblatt于1961年提出来的。设神经元