基于图分布式并行基因编程模型.docVIP

基于图分布式并行基因编程模型 　　摘要： 基因编程（GP）算法具有天然的并行性，因此出现了并行分布式GP模型，如主从模型、岛屿模型和网格模型等。但是实现这些分布式模型的算法过程复杂，不具有可重用性，很难依据不同拓扑结构来快速实现大规模的GP计算。针对这些缺点，提出了基于图的并行分布式GP模型，形式化地描述了图中的各种GP操作，使其能够支持不同拓扑结构的GP分布式并行计算。经过实验测试，该模型能够实现上述三种GP模型，并具有稳定、高效、易实现的特点。 关键词： 分布式并行基因编程；图模型；主从模型；岛屿模型；网格模型 0引言 基因编程（Genetic Programming，GP）是基于生物进化理论，由计算机程序自动实现用户定义任务的一种进化算法。GP是由Koza率先完整介绍[1]，现在已经广泛地应用于各个领域。随着GP问题越来越复杂，计算量也呈指数级增长，对GP的进化效率也提出了越来越高的要求，随之出现了并行分布式基因编程（Parallel Distributed Genetic Programming，PDGP）。 PDGP模型主要可以分为主从模型、岛屿模型和网格模型，以及这三种模型搭配的混合模型。几种模型的实现语言很多，如MPI、Java、C++语言[2-5]，实现的软件系统有DEAP、OpenBeagle、ECJ、GPLab等。 为了提升PDGP模型的计算性能，de Vega等[6]对PDGP模型内子群的个数，每个子群内个体的数量，以及拓扑结构都进行了深入的研究，认为如果要得到最优的进化效率，子群的个数、每个子群内个体的数量在具体问题中的配置都不一样。Tongchim等[7]则对同步与异步模型进行比较，他们在一个完全连接的拓扑结构中发现，进化过程中异步迁移比同步迁移效率更优。 负载均衡理论也被用于提升PDGP模型的计算性能，Oussaidène等[8]用贪婪启发式方法尽量把评估个体的工作量均匀地分配到不同的计算机中完成。直到2011年，de Vega等[9]才详细研究负载均衡在GP算法中的应用，认为增加负载均衡技术的主从模型比传统的主从模型效率高，对于计算时间短的GP问题不适宜用网格模型。 随着显卡技术的进步，图形处理器（Graphic Processing Unit，GPU）也被用来提升PDGP模型的计算性能。Harding等[10]用统一计算架构 （Compute Unified Device Architecture，CUDA）技术实现了基于GPU的PDGP模型，Cano等[11]则利用GPU在PDGP模型的评估阶段进行加速，在大数据计算加速方面取得了良好的效果。 但是，随着大数据量计算和存储资源需求的增长，特别是对大规模集群技术的利用，现有的PDGP模型和应用技术存在低效、不稳定、无法支持大数据量计算的问题，需要新模型来解决。这种新模型需要拥有稀疏的数据依赖、同步和异步迭代计算能力，还能让使用者不必关心模型内部复杂的数据存储、数据同步和数据死锁。新模型可以让使用者将更多的精力放在GP问题的研究上，而不用将大量的精力用来处理数据并发和模型检测。现今已知的软件，ECJ[4]或OpenBeagle[5]等，都支持单节点的GP算法，但是在实现PDGP模型的技术上却显现不足，需要用户自定义节点间的连接关系，不能自动支持数据并发，设计的模型无法保证正确性，无法满足新的需求。本文通过分析PDGP模型中三种模型的特点及共性，定义了基于图的PDGP（Graphbased PDGP，GPDGP）模型，并在此基础上实现了相关算法，完全可以满足GP的新需求。 1PDGP模型 1.1GP算法 GP算法和遗传算法（Genetic Algorithm，GA）[12]都是进化算法。两者都有基本的基因操作，如复制、选择、交叉和变异等，使用范围也都很广泛，但是GP算法使用计算机程序表示个体（Individual），GA算法却是用二进制代码表示个体。GP算法一般是以GP语义树表示个体，每个个体都是一种计算机程序，代表问题的一种求解方法。很多个体组成一个群体，一个群体可以分成若干个子群体。GP语义树由操作符集P={+，-，*，sin，…}和终端集T={x，y，z，…}组成，图1为一棵GP语义树f（x，y）=xy+sinx。GP算法通过基本的基因操作产生符合要求的个体，该组基因操作可以用基因操作集合BaseOperation={Reproduce， Selection， Crossover， Mutation}来表示。 支持独立的不同任务集并行执行的一个经典方法是给图染色，即相邻节点间没有相同颜色[16]。首先给数据图中的节点染色，然后只允许相同颜色的节点并发同步执