基于免疫机制的改进贝叶斯优化算法研究.docVIP

基于免疫机制的改进贝叶斯优化算法研究 　　摘 要： 贝叶斯优化算法是分布估计算法中最典型的代表。它利用贝叶斯网络采样对种群进行更新，而贝叶斯网络的寻优学习是一个复杂的搜索过程，运算时间较长，计算量大，这也正是制约贝叶斯优化算法应用的一个主要原因。本文引入免疫算法机制，使其对贝叶斯网络产生的解进行有导向的变异，提高个体的适应度值，从而减少贝叶斯网络的构建次数，降低计算量。研究结果表明，改进后的贝叶斯优化算法不仅具有更强的寻优能力，而且大大减少了计算量和运算时间。 　　关键词： 免疫机制 贝叶斯网络 种群 寻优 　　分布估计算法在求解问题时具有比遗传算法更好的性能，在解决实际应用中的复杂优化问题具有很大潜力。因此最近几年来，越来越多的学者对分布估计算法的研究产生了兴趣，并逐渐成为当前进化计算领域前沿的研究内容。而贝叶斯优化算法（Bayesian Optimization Algorithm，简称BOA算法）作为分布估计算法的典型代表，在求解复杂问题时有其独特优势，特别是针对NP问题，它表现出良好的性能。但在构建贝叶斯网络模型时需要较大的计算量，使贝叶斯优化算法在求解复杂优化问题时需要较长的运算时间，从而限制了算法的应用。 　　针对这一问题，本文在传统贝叶斯优化算法中引入了免疫规划算法的疫苗接种机制，利用问题的特征信息制作疫苗，并以一定的概率干预贝叶斯网络的全局搜索进程，从而克服以往优化算法中变异操作的不确定性和盲目性，提高算法的快速性和收敛性，降低贝叶斯优化算法的计算量。 　　1.贝叶斯优化算法的基本原理 　　1.1贝叶斯优化算法的基本流程 　　贝叶斯优化算法是基于种群进化的一种算法，通常初始种群由满足均匀分布的可行解组成。在产生初始群体之后，重复以下步骤直到满足终止条件。首先，利用一种适当的选择方法从当前群体中选出一组比较优秀的解；然后，利用从优选的解集合中提取信息建立优选解集的一个贝叶斯网络模型；接着，通过对贝叶斯网络进行采样学习生成一组新的候选解；最后把新产生的候选解加入到当前群体，取代其中一些低适应度的解。贝叶斯优化算法原理可描述如下[1]： 　　步骤1：t←0，随机产生初始群体Pop（t）； 　　步骤2：利用某种选择机制从Pop（t）中选择部分优秀解构成S（t）； 　　步骤3：利用贝叶斯网络概率模型建立S（t）的概率分布； 　　步骤4：依据概率分布抽样产生新的解集O（t）； 　　步骤5：用O（t）替换Pop（t）的部分个体形成下一代群体Pop（t+1），t←t+1； 　　步骤6：若不满足终止条件，继续执行步骤2。 　　贝叶斯优化算法的每一个步骤都有多种不同的方法可以选择。比如：初始群体可以根据问题的先验信息来产生；群体选择方法可以用任一种可行的选择方法（如轮盘赌法、锦标赛选择法和截断选择法等）；贝叶斯网络结构的学习算法也可选择不同的算法（如爬山法和k2法等）；贝叶斯网络参数的学习算法也有多种（如最大似然估计算法和贝叶斯估计算法等）。 　　1.2贝叶斯网络的学习和抽样 　　贝叶斯优化算法利用贝叶斯网络表示概率模型，通过贝叶斯网络的学习与抽样产生新个体，即贝叶斯优化算法的核心和关键是贝叶斯网络。贝叶斯网络是一个有向无环图，它既可以对数据进行描述，又可以通过采样产生与所给数据性质相同或相似的数据，因此常用于对离散或连续变量的多项式数据进行建模。 　　通常情况下，一个贝叶斯网络由网络结构和网络参数两个部分组成。贝叶斯网络结构中的节点表示各个变量（在此对应于个体中的基因），节点之间的有向边表示变量之间的条件依赖关系；贝叶斯网络参数是各变量条件概率分布表的集合。 　　一个典型的五个节点贝叶斯网络（包括网络拓扑和参数）如图1.1所示。该网络的联合概率可以表示为： 　　P（B，E，A，C，R）=P（B）P（E）P（A|B，E）P（R|E）P（C|A）（1-1） 　　贝叶斯网络的学习主要包括网络结构和条件概率参数的学习。在贝叶斯优化算法中，由于优选解群体中每一个变量的取值是确定的，因此当给定网络结构时，参数的学习是比较简单的。贝叶斯网络结构的学习是寻找对先验知识和数据拟合最好的网络结构，虽用全局搜索算法可得到较好的解，但计算量太大。为了能够快速学习贝叶斯网络结构（即使是近似解），常采用基于打分测度的贪婪算法[2]。 　　学习贝叶斯网络的结构和参数后，新的候选解将根据所学习的网络所描述的分布产生。贝叶斯网络的抽样过程可描述如下[2]： 　　步骤1：计算所有变量之间的祖孙关系； 　　步骤2：利用贝叶斯网络的条件概率按祖孙关系顺序产生所有变量的基因值； 　　步骤3：若需再生成多个个体，则继续执行步骤2。 　　2.引入免疫机制的改进贝叶斯优化算法原理 　　根据上述分析得知贝叶斯优化算法的计算量主