计算智能课件-智能优化（EDA）.pptxVIP

分布估计算法

分布估计算法2提纲概述框架分类理论研究应用实例

分布估计算法3概述EDAs的提出分布估计算法(EstimationofDistributionAlgorithms，EDAs)是一种新兴的基于统计学原理的随机优化算法，EDA的概念最初形成于1996年，于2000年左右得到快速发展，并迅速发展为进化计算领域的研究热点和解决工程问题的有效方法。而EDA领域最早的算法是由美国卡耐基梅隆大学的Baluja在1994年提出的PBIL（PopulationBasedIncrementalLearning）算法。

分布估计算法4概述EDAs的思想采用一种全新的进化模式，算法中没有传统的交叉、变异等遗传操作，而是采用统计学习的手段从群体宏观角度建立一个可以描述解分布的概率模型，通过对概率模型反复采样产生新群体，实现进化过程。分布估计算法通过建立概率模型描述变量之间的相互关系，能更有效地混合构造块和实现构造块重组，因此能解决传统遗传算法难以解决的问题，能更有效地解决非线性、高维复杂问题。

分布估计算法5概述EDAs的特点分布估计算法使用概率的方法描述和表示每一代群体。一个优化问题中每个自变量xi被看作是一个随机变量(也可以编码为遗传算法中的一个基因)，所有的随机变量构成一个随机向量x=(x1,…,xn)（对应于遗传算法中的基因串）。一个个体就是该随机向量的一个取值，而一个群体就对应于该随机向量的一个分布。随机向量的分布是群体性能的一个指标，利用这个指标可以紧凑和整体地表示该群体。建立一个概率模型描述问题中变量之间的相关关系。分布估计算法由两个基本操作组成：根据所选择的优势群体建立概率模型；对所建立的概率模型采样产生新个体组成新一代群体。

分布估计算法6概述分布估计算法VS遗传算法遗传算法（GeneticAlgorithm,GA)作为一种应用广泛的智能优化算法，由美国Michigan大学J.Holland教授于1975年首先给出之后，无论是理论研究还是应用研究都成为十分热门的课题。分布估计算法是在遗传算法基础上发展起来的一类进化算法，结合了进化计算和统计学习两个领域的知识。解决遗传算法中存在的因交叉、变异操作而导致的建筑块破坏问题，具有较好的连锁学习能力。在分布估计算法中需要针对选择出来的优势群体估计其概率分布模型并根据估计的模型进行采样，而没有遗传算法中的交叉和变异操作。分布估计算法具有更强的理论基础，因此受到广大学者的重视。

分布估计算法7框架过程描述

分布估计算法8框架框架图

分布估计算法9框架EDAs示例评估选择建模采样

分布估计算法10框架分布估计算法VS传统进化算法

分布估计算法11框架算法对比分布估计算法对种群执行选择、建模和采样等进化操作从“宏观”角度来描述群体的进化过程“显式”地描述种群的分布传统进化算法对种群执行选择、交叉和变异等进化操作从“微观”角度来描述群体的进化过程“隐式”地描述种群的分布

分布估计算法12分类分布估计算法利用概率模型描述变量之间的相互关系，根据优化问题的复杂性，研究者们设计了很多种不同的概率模型表示变量之间的关系，形成了多种分布估计算法。根据概率模型所描述变量的离散或连续性质，分布估计算法首先可以分为离散分布估计算法和连续分布估计算法。根据所描述变量的相关性，分布估计算法又可以分为变量无关分布估计算法、双变量相关分布估计算法以及多变量相关分布估计算法。

分布估计算法13分类离散EDAsVS连续EDAs一个普通的分布估计算法一般既要考虑变量性质也要考虑其相关性，因此分布估计算法分为离散无关、离散相关（双变量、多变量）、连续不相关及连续相关几种。离散变量的分布估计算法计算和实现都比较简单，一些连续的优化问题也可通过离散化来进行求解。由于连续变量的概率模型比较复杂，难于建立，相对于离散变量的分布估计算法，连续变量的分布估计算法发展较慢，算法设计较少。为简化问题，连续EDAs（变量无关和变量相关）通常使用的概率模型是高斯模型，建模的主要任务是计算模型的均值和方差。

分布估计算法14分类离散变量的分布估计算法变量无关的分布估计算法算法假设随机向量的元素之间是相互独立的，这样，每个个体的概率仅仅由每个变量各自的概率来确定，即：对于二进制编码的优化问题，此时表示解空间分布的概率模型是一个概率向