运用遗传规划解决异或问题新方法.docVIP

运用遗传规划解决异或问题新方法 　　摘要：介绍了一种用遗传规划这种新的搜索优化技术解决经典异或问题的新途径。遗传规划实质是使用广义的计算机程序来描述问题，并且可以根据环境状况动态改变计算机程序的结构。根据遗传规划特征，引入两种思路、三种方法对异或问题进行求解，取得了很好的效果。与神经网络相比，遗传规划可以动态进化学习并取得显式的数学表达式。 　　关键词： 遗传规划； 异或；神经网络 　　中图分类号：TP301文献标志码：A 　　文章编号：1001-3695(2007)11-0040-03 　　 　　0引言?? 　　 　　异或问题就是如何实现异或逻辑关系，即对于两个相同的布尔输入0或1，其输出为0；而对于两个不同的输入，其输出为1。对于这个问题，最初的感知基因只作线形分类而无法解决XOR逻辑运算，导致神经网络的研究出现低潮[1]。但是对于神经网络的研究并没有停止，20世纪80年代后期，Rumelhart等人提出了多层前向网络的误差反向传播（BP）算法，使得网络可以逼近任意一个连续系统，实现了非线性分类问题[2]。然而BP算法在具体实现中出现了一些问题，如收敛速度慢、神经网络结构的确定比较复杂、参数之间存在较强的耦合关系、不能显性表示相关关系、局部极小等[3]。?? 　　遗传规划，又称遗传程序设计[4]，是近年来出现的一种全新的方法。80年代末90年代初，美国斯坦福大学Koza 教授将计算机自动程序设计思想引入遗传算法 GAs(genetics algorithms)中[5,6]，创立了遗传规划。遗传规划可以自动地在可能的解空间中寻找最优或最满意的计算机程序。经过近几年的研究，遗传规划已经在自动设计、模式识别、机器人控制、神经网络结构的合成等领域中得到广泛应用[7,8]。 　　遗传规划能动态产生预测分析的最优非线性结构，也能在描述模式分类问题的不同特征之间发现联系。它 　　不需要数据统计分布的预处理知识，可自动地发现某一类判别式的特征。 　　 　　1遗传规划的基本原理?? 　　 　　遗传规划的基本思想是随机产生一个适合于给定环境的初始群体，即问题的搜索空间，构成群体的个体均有一个适应度值；依据达尔文适者生存原则，对群体中的个体进行遗传操作，产生新一代群体。如此进化下去，直到给定问题的解或近似解在某一代上出现为止。在遗传规划技术中，组成群体的个体，即遗传程序（genetic programs）是一种动态的树状结构，树的节点由叶节点（终端集）和非叶节点（根节点和运算符）组成。这种树结构的层与节点都是可以变化的。?? 　　采用遗传规划解决特定问题需确定以下五个要素：?? 　　a）终端集（terminal set）。由输入变量和常量构成。输入变量，又叫特征终端，与具体的领域问题有关，它是从问题领域中抽取的特征值，如表示输入、传感器或某个系统的状态变量；常量是一些数字或者布尔常数，由系统生成初始群体或变异操作随机产生，并且在进化过程中保持不变。?? 　　b）函数集（function set）。可以由算术运算符（+、-、*、/）、标准数学函数（sin、cos、tan、exp、log）、布尔运算、条件运算、迭代运算、递归函数、自定义函数等构成。?? 　　c）适应度（fitness）。适应度函数是评价个体的函数（该性能代表个体解决问题的能力）。种群中每个个体均会依照适应度评价函数算出一个适应度值。?? 　　d）算法控制参数。包括种群的大小、遗传操作（交叉、复制、变异）的概率等。?? 　　e）终止条件。它通常是预先给定的，可以是最大优化迭代数或是要求的最小适应度值。?? 　　遗传规划通过以下三个步骤解决问题[9,10]： 　　生成一个初始群体，其个体是由终端集和函数集的随机组合产生的； 　　重复计算群体中每个个体的适合值，并进行遗传操作，直到满足终止准则为止； 　　终止遗传规划的运行，确定运行结构。 　　 　　2用神经网络方法解决XOR问题 ?? 　　 　　XOR问题的样本集如表1前三列所示。?? 　　 　　4结束语?? 　　 　　本文采用两种思路、三种方法提供了一种用遗传规划解决XOR问题的新途径。这三种方法均能快速准确地找出多个合适的树型遗传程序（表现为显式数学模型）来解决XOR问题。对于该问题，尽管用分类思想比用符号回归来解决稍显复杂，但它为遗传规划程序延伸解决其他分类问题提供了一种新的思路。 　　较之神经网络方法，遗传规划方法无须确定具体的函数形态；不需要对输入预处理或对输出进行后处理；生成的计算机程序会按照接近问题解的方式动态改变；进化学习的时间短，可以直接给出变量之间显性的函数关系。 　　遗传规划是一种不依赖问题域的方法，它提供了一个找到解决问题的计算机程序的有效途