计算智能课件.pptxVIP

 计算智能;计算智能涉及： 神经网络 模糊计算 进化计算 人工生命等领域 ; ;4.1 人工神经网络概述 为了加深对基于神经网络的连接学习机制的理解，需要先掌握与连接学习有关的人工神经网络的基础知识。 1．生物神经元的结构 生物神经元（Neuron）即为神经细胞，它是生物神经系统的最基本单元。从其形状和大小来看，神经元是多种多样的，但从组成结构看，各种神经元又具有共性。神经元的基本结构如图4.1所示，它由细胞体、轴突和树突三个主要部。;图4.2 神经元模型图;y=f(ξ)=f(∑ ωij * xi – θ);;;（3）低潮时期 这一阶段为20世纪60年代末到20世纪8O年代初期。由于神经网络研究与当时占主导地位的符号人工智能的研究途径不同，因而引起了人们的广泛关注，同时也产生了很大的争议。当时在美国麻省理工学院的明斯基和裴伯特（S.Papert）对感知器的功能及其局限性从数学上作了深入研究后，于1969年发表了著名的论著《Perceptrons》（感知器），指出了双层感知器的局限性，对人工神经网络做出了悲观的结论。由于明斯基在人工智能界的威望和双层感知器本身的局限性，很多人都认为人工神经网络前途渺茫，从而使人工神经网络的研究落入低潮。值得庆幸的是，即使在这种极端艰难的条件下，还仍有一部分学者在潜心研究。正是由于他们的不懈努力，才为人工神经网络的再度复兴开辟了道路。;;; 图4.5 异或逻辑的神经网络; 图4.6 异或逻辑的神经网络;4.4 一种广泛应用的神经网络B-P网络的网络学习传播公式 网络学习的传播公式是网络学习中用来调整网络连接权值和阈值的公式。实际上，网络学习过程就是一个对给定训练模式，利用传播公式，沿着减小误差的方向不断调整网络连接权值和阈值的过程。为了讨论传播公式的需要，下面先给出几个符号约定： Oi ： 节点 i 的输出； netj ： 节点 j 的输入； ωij ： 从节点 i 到节点j 的连接权值；θj ：节点 j 的阈值； yk ： 输出层上节点k的实际输出； tk ：输出层上节点k的期望输出。 显然，对隐含节???j有： netj＝Σ ωijOi Oj＝ f（netj- θj ） 在B-P算法学习过程中，可以采用如下公式计算各输出节点的误差： e=1/2*Σ(tk-yk)2 连接权值的修改由下式计算： ωjk(t+1)= ωjk (t)+ Δ ωjk ?其中， ωjk （t）和ωjk （t＋ 1）分别是时刻 t和 t+1时刻，从节点 j 到节点k的连接权值； Δ ωjk是连接权值的变化量。;前馈网络之B-P网络的学习算法可描述如下： （1）初始化网络及学习参数，即将隐含层和输出层各节点的连接权值、神经元阈值赋予[－1，1]区间的一个随机数； （2）提供训练模式，即从训练模式集合中选出一个训练模式，将其输入模式和期望输出送入网络； （3）正向传播过程，即对给定的输入模式，从第一隐含层开始，计算网络的输出模式，并把得到的输出模式与期望模式比较，若有误差，则执行第（4）步；否则，返回第（2）步，提供下一个训练模式； （4）反向传播过程，即从输出层反向计算到第一隐含层，按以下方式逐层修正各单元的连接权值： ① 计算同一层单元的误差δk； ② 按下式修正连接权值和阈值。 对连接权值，修正公式为： ωjk（t＋1）= ωjk (t)+ Δ ωjk （5）返回第（2）步，对训练模式集中的每一个训练模式重复第（2）到第（3）步，直到训练模式集中的每一个训练模式都满足期望输出为止。; B-P网络模型是目前使用较多的一种神经网络，它有自己的优点，也存在一些缺点。 B-P网络的主要优点有： （1）算法推导清楚，学习精度较高； （2）从理论上说，可以使多层前馈网学会任何可学习的东西； （3）经过训练后的B-P网络，运行速度极快，可用于实时处理。 B-P网络的主要缺点有： （1）由于它的数学基础是非线性优化问题，因此，可能陷入