神经网络算法.pdf

神经网络算法

神经网络算法

神经网络

思维学普遍认为，人类大脑的思维分为抽

象（逻辑）思维、形象（直观）思维和灵感（顿

悟）思维三种基本方式。

逻辑性的思维是指根据逻辑规则进行推理

的过程；它先将信息化成概念，并用符号表示，

然后，根据符号运算按串行模式进行逻辑推理；

这一过程可以写成串行的指令，让计算机执行。

然而，直观性的思维是将分布式存储的信息综

合起来，结果是忽然间产生想法或解决问题的

办法。这种思维方式的根本之点在于以下两

点:1.信息是通过神经元上的兴奋模式分布储

在网络上;2.信息处理是通过神经元之间同时

相互作用的动态过程来完成的。

人工神经网络就是模拟人思维的第二种方

式。这是一个非线性动力学系统，其特色在于

信息的分布式存储和并行协同处理。虽然单个

神经元的结构极其简单，功能有限，但大量神

经元构成的网络系统所能实现的行为却是极其

丰富多彩的。

信号的突起，而轴突是作为输出端的突起，它

只有一个。

树突是细胞体的延伸部分，它由细胞体发

出后逐渐变细，全长各部位都可与其他神经元

的轴突末梢相互联系，形成所谓“突触”。在突

触处两神经元并未连通，它只是发生信息传递

功能的结合部，联系界面之间间隙约为（15～

50)×10米。突触可分为兴奋性与抑制性两种类

型，它相应于神经元之间耦合的极性。每个神

经元的突触数目正常，最高可达10个。各神经

元之间的连接强度和极性有所不同，并且都可

调整、基于这一特性，人脑具有存储信息的功

能。利用大量神经元相互联接组成人工神经网

络可显示出人的大脑的某些特征。

人工神经网络的工作原理

人工神经网络是由大量的简单基本元件

——神经元相互联接而成的自适应非线性动态

系统。每个神经元的结构和功能比较简单，但

大量神经元组合产生的系统行为却非常复杂。

人工神经网络反映了人脑功能的若干基本

特性，但并非生物系统的逼真描述，只是某种

模仿、简化和抽象。

与数字计算机比较，人工神经网络在构成

原理和功能特点等方面更加接近人脑，它不是

按给定的程序一步一步地执行运算，而是能够

自身适应环境、总结规律、完成某种运算、识

别或过程控制。

人工神经网络首先要以一定的学习准则进

行学习，然后才能工作。现以人工神经网络对

手写“A”、“B”两个字母的识别为例进行说明，

规定当“A”输入网络时，应该输出“1”，而当输

入为“B”时，输出为“0”。

所以网络学习的准则应该是：如果网络作

出错误的的判决，则通过网络的学习，应使得

网络减少下次犯同样错误的可能性。首先，给

网络的各连接权值赋予(0，1)区间内的随机值，

将“A”所对应的图象模式输入给网络，网络将

输入模式加权求和、与门限比较、再进行非线

性运算，得到网络的输出。在此情况下，网络

输出为“1”和“0”的概率各为50%，也就是说是

完全随机的。这时如果输出为“1”(结果正确)，

则使连接权值增大，以便使网络再次遇到“A”

模式输入时，仍然能作出正确的判断。

如果输出为“0”(即结果错误)，则把网络连

接权值朝着减小综合输入加权值的方向调整，

其目的在于使网络下次再遇到“A”模式输入

时，减小犯同样错误的可能性。如此操作调整，

当给网络轮番输入若干个手写字母“A”、“B”

后，经过网络按以上学习方法进行若干次学习

后，网络判断的正确率将大大提高。这说明网

络对这两个模式的学习已经获得了成功，它已

将这两个模式分布地记忆在网络的各个连接权

值上。当网络再次遇到其中任何一个模式时，

能够作出迅速、准确的判断和识别。一般说来，

网络中所含的神经元个数越多，则它能记忆、

识别的模式也就越多。

人工神经网络的特点

（1）人类大脑有很强的自适应与自组织特

性，后天的学习与训练可以开发许多各具特色

的活动功能。如盲人的听觉和触觉非常灵敏；

聋哑人善于运用手势；训练有素的运动员可以

表现出非凡的运动技巧等等。

普通计算机的功能取决于程序中给出的知

识和能力。显然，对于智能活动要通过总结编

制程序将十分困难。

人工神经网络也具有初步的自适应与自组

织能力。在学习或训练过程中改变突触权重值，

以适应周围环境的要求。同一网络因学习方式

及内容不同可具有不同的功