1现代优化算法.ppt

现代优化算法 什么是优化？就是从各种方案中选取一个最好的。从数学角度看，优化理论就是研究如何在状态空间中寻找到全局最优点。 比如水泥混凝土的性能，涉及到水、沙、石子、水泥和其他掺杂物比例。学校课程表排课问题、售票员上岗问题、公司内部人员安排出效益等。降低成本、提高效益是问题的关键。 一般的优化具有下面形式： minf (x1, x2, …, xn) s.t. g(x) ? 0，x?D 其中x1, x2, …, xn?Ω（即问题的可行域，代表问题参数的选择范围），即minf (X)，其中X?Ω（矢量形式）。f(x)是决策问题的数学模型，也是决策问题的目标函数，g(x) ?0是决策问题的约束条件，D是决策问题的定义域（可行域）。问题归结为求极值。极值点非常多，需要找到全局最小点。 注：求问题的最大和最小是同一个问题，算法完全一样。 习惯上，将优化算法分为两类：局部优化算法和全局性优化算法。前者可以称为经典优化算法，已经得到了人们广泛深入的研究。线性规划、整数规划、0–1规划、非线性规划、排队论、决策论。后者习惯上称为现代优化算法，是20世纪80年代兴起的新型全局性优化算法，主要包括禁忌搜索、模拟退火、遗传算法、神经网络等，其主要应用对象是优化问题中的难解问题，即NP–hard问题 算法比喻 为了找出地球上最高的山，一群有志气的兔子们开始想办法。 方案一：兔子们吃了失忆药片，并被发射到太空，然后随机落到了地球上的某些地方。他们不知道自己的使命是什么。但是，如果你过几年就杀死一部分海拔低的兔子，多产的兔子们自己就会找到珠穆朗玛峰。 遗传算法 方案二：兔子们朝着比现在高的地方跳去，它们找到了不远处的最高山峰。但是这座山不一定是珠穆朗玛峰。其实，它们这种做法只是自己心理上认为找到了最高的山，并不能保证局部最优值就是全局最优值。 局部搜索法 方案三：兔子们知道一个兔子的力量是渺小的。于是，它们互相转告着，哪里的山已经找过，并且找过的每一座山他们都留下一只兔子做记号。这样，它们制定了下一步去哪里寻找的策略。 禁忌搜索法 方案四：兔子们用酒将自己灌醉了。它们随机地跳了很长时间。在这期间，它们可能走向高处，也可能踏入平地。但是，随着时间的流逝，它们渐渐清醒了并朝最高方向跳去。 模拟退火法 一 遗传算法 遗传算法是模拟生物在自然环境中的遗传和进化过程而形成的一种自适应全局优化概率搜索算法。 它最早由美国密执安大学的Holland教授提出，起源于60年代对自然和人工自适应系统的研究。70年代De. Jong 基于遗传算法的思想在计算机上进行了大量的纯数值函数优化计算实验。在一系列研究工作的基础上。80年代由Goldberg进行总结，形成了遗传算法的基本框架。 一 遗传算法 其主要特点是群体搜索策略和群体中个体之间的信息交换，搜索不依赖于梯度信息。 它的应用范围非常广泛，尤其适合于处理传统搜索方法难于解决的复杂和非线性问题，可广泛用于组合优化，机器学习，自适应控制，规划设计和人工生命等领域，从而确立了它在21世纪的智能计算技术中的关键地位。 1 遗传算法的基本步骤 遗传算法流程图如下： 一、编码 遗传算法主要是通过遗传操作对群体中具有某种结构形式的个体施加结重组处理，从而不断地搜索出群体中个体间结构相似性，由此可见，遗传算法不能直接处理问题空间参数，必须把它们转换成遗传空间的由基因按一定结构组成的染色体或个体。这一转换操作就叫做编码。编码方法主要有：二进制编码，Gray编码，动态编码，实数编码，有序串编码，多参数编码，可变长编码等。 （一）一维染色体编码（二值编码） 所谓一维染色体编码是指搜索空间的参数转换到遗传空间过后，其相应的基因呈一维排列构成的染色体。具体地说，在遗传空间中，用以表示个体的字符集中的要素构成了字符串。如{a,b,c,d}或{1,2,3,4}。 一维染色体编码中最常用的符号集是二进制符号{0,1}，基于此符号集的个体呈二值码串。二值编码的一般方法是： (1)根据所需要的精度确定参数的串长； (2)解码，由二值串转化成实数； 例如：x=13,可被表示为01101。 （二）多映射编码（多参数） 在优化问题求解中常常会遇见多参数优化问题。其基本思路是将每一个参数进行二值编码得到子串，每个子串对应各自的编码参数，然后将子串构成一个完整的染色体串。 二、 初始群体的生成 遗传操作是对于多个体同时进行的。这众多的个体组成了群体。在遗传算法处理流程中，继编码设计后的任务是初始群体的设定，并以此为起点一代代进化直到按某种进化停止准则终止进化过程，由此得到最后一代（或