知识发现数据挖掘第十二部分.pptVIP

模式定理*史忠植高级人工智能*复制的结果并没有生成新的模式。因而，为了探索搜索空间中的未搜索部分，需要利用交叉和变异操作。下面先探索交叉对模式的影响。模式s1=“*1****0”和s2=“***10**”交叉会改变模式的一部分，模式的长度越长，被破坏的概率越大。模式定理*史忠植高级人工智能*假定模式s在交叉后不被破坏的概率为ps，则：若交叉概率为pc,则s不被破坏的概率为模式定理*史忠植高级人工智能*01所以，再考虑交叉时，(3)式可表示为最后，考虑变异算子对模式的影响。变异算子以概率pm随机地改变个体某一位的值。只有当o(s)个确定位的值不被破坏时，模式s才不被破坏。02模式定理*史忠植高级人工智能*01模式s在变异后不被破坏的概率：02Pm1,可近似地表示为模式定理*史忠植高级人工智能*01因此，考虑交叉和变异时，(3)式可表示为02模式定理*史忠植高级人工智能*由(6)我们得到一个重要的定理。[定理1]模式定理(SchemaTheorem)适应值在群体适应值之上的、长度较短的、低阶的模式在GA的迭代中将按指数增长方式被复制。积木块假设*史忠植高级人工智能*Holland和Goldberg在模式定理的基础上提出了“积木块假设”(BuildingBlockHypothesis):低阶、长度较短、高于平均适应度的模式(积木块)在遗传算子的作用下，相互结合，能生成高阶、长度较长、适应度较高的模式，并得到全局最优解。遗传算法的收敛性分析*史忠植高级人工智能*算法的收敛性可以定义如下：定义：若算法在t时刻的种群xt满足则称算法收敛到x0。关于遗传算法的收敛性，Michalewicz证明了基于压缩原理的收敛性定理。而Rudolph证明了基于Markov链的收敛性定理。0102遗传算法的改进*史忠植高级人工智能*上位(epistasis)效应上位效应包括两个方面：多基因性和基因多效性。这些问题主要归结为：遗传算法的局限性：遗传算法得到了广泛应用，但也暴露了一些问题，如：遗传算法在解决某些问题时速度较慢；遗传算法对编码方案的依赖性较强，算法的鲁棒性不够好等。遗传算法的改进*史忠植高级人工智能*（2）编码方案01最初使用最多的是二进制位串，但此类编码并不适合一些实际问题。现在人们已经探索了许多其它方案，如浮点表示、树形表示等等。（3）积木块假设02积木块假设是否成立，是否一定存在短的、低阶的、高适应值的积木块？若构成问题最优解的所有低阶模式的适应值都较低，这是GA很难收敛到最优解，此类问题称为“欺骗问题”。（4）早熟收敛遗传算法的改进*史忠植高级人工智能*即GA收敛到一个局部最优解。Schraudolph和Belew提出“动态参数编码”方案来解决早熟收敛问题。关于遗传算法的一些改进措施，有兴趣的同学可查找相关资料。遗传机器学习－分类器系统*史忠植高级人工智能*机器学习是人工智能的一个重要研究领域，也是人工智能的一个重要的应用领域。遗传机器学习(GeneticsBasedMachineLearning,GBML)时将遗传算法与机器学习系统相结合的产物。遗传机器学习系统的一般框架*史忠植高级人工智能*任务子系统学习子系统任务检测器…执行效应器…任务效应器执行检测器匹兹堡方法和密西根方法*史忠植高级人工智能*遗传机器学习有两种重要的实现方法：一种是由匹兹堡(Pittsburgh)大学的DeJong和他的学生Smith提出的。该方法用整个规则集合表示一个个体，GAs维护一个包含一定数目的候选规则集的种群。这种方法称为匹兹堡方法。匹兹堡方法和密西根方法*史忠植高级人工智能*另一种方法是由密西根(Michigan)大学的Holland和他的学生Reitman提出的。该方法每个个体表示一条规则，而整个种群就是规则集。这种方法称为密西根方法。Holland提出的分类器系统采用的是密西根方法。分类器系统*史忠植高级人工智能*Holland和他的同事提出了一种分类器系统的认知模型,其中的规则不是规则集,而是遗传算法操纵的内部实体。图11.3给出了分类器系统的一般结构,从分类器系统看学习,它由三层动作构成,即执行子系统、信用赋值子系统和发现子系统。分类器系统*史忠植高级人工智能*发现[遗传算法]信用赋值[桶链]执行[分类器系统]消息来自输入接口支付消息送出输出接口（目标）来自内部监控器的消息图