人工智能第四剖析.ppt

4.2 进化计算 发展历史 发展历史 发展历史 发展历史 遗传算法与自然进化的比较 新达尔文进化理论的主要论点 进化计算的三大主流板块 Holland提出的遗传算法(Genetic Algorithm)。 Rechenberg和Schwefel提出的进化策略(Evolutionary Strategies)。 Fogel提出的进化规划(Evolutionary Programming)，又称为进化程序设计。 本节将着重介绍遗传算法，对进化策略和进化规划只作简单介绍。 4.2.2 进化系统理论的形式模型 进化系统理论的形式模型 进化系统理论的形式模型 进化系统理论的形式模型 进化系统理论的形式模型 门德尔遗传学 门德尔遗传学 门德尔遗传学 门德尔遗传学 门德尔遗传学 4.2.3 达尔文进化算法 4.2.4 遗传算法 遗传算法的特点 遗传算法 遗传算法 遗传算法与传统优化算法的主要不同 遗传算法的准备工作 基本遗传算法 基本遗传算法的构成要素 基本遗传算法的构成要素 基本遗传算法 基本遗传算法流程图 轮盘式选择 首先计算每个个体 i 被选中的概率 然后根据概率的大小将将圆盘分为 n个扇形，每个扇形的大小为 。选择时转动轮盘，参考点r落到扇形i则选择个体i 。 单点一致交叉 首先以概率pc从种群中随机地选择两个个体p1、p2。在{1, 2, . . . ,l}内随机选择一个数i,作为交叉的位置，称为交叉点。然后将两个个体交叉点后面的部分交换。 例如： 0110 101100 0110 011001 1100 011001 1100 101100 一致变异 遗传算法举例 遗传算法的理论基础是遗传算法的二进制表达式及模式的含义。模式是能对染色体之间的相似性进行解释的模板。 [定义1] 设GA的个体 ,记集合 则称 为一个模式，其中＊是通配符。 即模式(schema)是含有通配符(*)的一类字符串的通式表达。每个“*”可以取“1”或者“0”。 模式举例 模式 与以下两个字符串匹配： 010101110 110101110 而模式 *1010＊110 与以下四个字符串匹配： 010100110 010101110 110100110 110101110 模式的定义 [定义2] 一个模式s的阶是出现在模式中的“0”和“1”的数目，记为o(s)。 如：模式“0****”的阶为1，模式“10*1*”的阶为3。 [定义3] 一个模式s的长度是出现在模式中第一个确定位置和最后一个确定位置之间的距离，记为 。 如：模式“01***”的长度为1，模式“0***1”的长度为3。 4.2.5 模式定理 假定在给定的时间步t,一个特定的模式s在群体P(t)中包含由m个代表串，记为m=m(s,t)。首先，我们暂不考虑交叉和变异操作。每个串根据适应值的大小获得不同的复制概率。串i的复制概率为： 则在群体P(t+1)中，模式s的代表串的数量的期望值为： 若记P(t)中所有个体的适应值的平均值为： (3)式表明，模式s的代表串的数目随时间增长的幅度正比于模式s的适应值与群体平均适应值的比值。即：适应值高于群体平均值的模式在下一代的代表串数目将会增加，而适应值低于群体平均值的模式在下一代的代表串数目将会减少。 假设模式的适应值为 ,其中c是一个常数，则 (3)式可写为： 由(6)我们得到一个重要的定理。 [定理1] 模式定理(Schema Theorem) 适应值在群体适应值之上的，长度较短的，低阶的模式在GA的迭代中将按指数增长方式被复制。 Holland和Goldberg在模式定理的基础上提出了“积木块假设”(Building Block Hypothesis): 低阶、长度较短、高于平均适应度的模式(积木块)在遗传算子的作用下，相互结合，能生成高阶、长度较长、适应度较高的模式，并得到全局最优解。 算法的收敛性可以定义如下： 定义： 若算法在t时刻的种群xt满足 则称算法收敛到x0。 关于遗传算法的收敛性，Michalewicz证明了基于压缩原理的收敛性定理。而Rudolph证明了基于Markov链的收敛性定理。 4.2.6 遗传算法的改进 4.2.7 遗传机器学习－－分类器系统 机器学习是人工智能的一个重要研究领域，也是人工智能的一个重要的应用领域。 遗传机器学习(Genetics Based Machine Learning, GBML)时将遗传算法与机器学习系统相结合的产物。 遗传机器学习系统的一般框架 遗传机器学习有两种重要的