第1章—慢—导言.pptVIP

智能优化方法AI-Based Optimization Methods 课程进度 No.1 导言、伪随机数的产生方法 No.2 遗传算法(GA) No.3 遗传算法(GA) No.4 遗传算法(GA) No.5 禁忌搜索(TS) 课程进度 No.6 禁忌搜索(TS ) 模拟退火(SA) No.7 模拟退火(SA) No.8 模拟退火(SA) No.9 蚁群优化(ACO) 粒子群优化(PSO) No.10 考试 参考书目 《遗传算法与工程设计》 《软计算方法》 中英文文献 第一章 导言 第一章 导言 〇.最优化的重要性 一.传统优化方法的基本步骤——三步曲 二.传统优化方法的局限性 三.实际问题中对最优化方法的要求 四.智能优化算法的产生与发展 五.应用前景局限性和研究方向、注意事项 〇.最优化的重要性（1） 人类的一切活动都是认识世界和改造世界的过程 即： 认识世界 → 改造世界 ↓ ↓ (建模) (优化) 〇.最优化的重要性（2） 一切学科都是建模与优化在某个特定领域中的应用 概念模型(定性) → 结构模型(图)→ → 数学模型 → 智能模型 〇.最优化的重要性（3） 最优化理论的发展 极值理论； 运筹学的兴起(Operation Research)； 数学规划：线性规划(LP)；非线性规划(NLP)；动态规划(PP)；马尔托夫规划(MDP)；排队轮；决策论；存储论。 最优化理论在国民经济中的广泛应用 一.传统优化方法的基本步骤—三步曲（1） 如下面框图所示 选一个初始解 LP:大M，二阶段法 NLP:任意点或一个内点 一.传统优化方法的基本步骤—三步曲（2） 一.传统优化方法的基本步骤—三步曲（3） 向改进方向移动——改进解 LP:转轴变换(进基、退基) NLP:向负梯度方向移动(共轭梯度方向、牛顿方向) 二.传统优化方法的局限性（1） 对问题中目标函数、约束函数有很高的要求——有显式表达，线性、连续、可微，且高阶可微; 2. 只从一个初始点出发，难以进行并行、网络计算，难以提高计算效率； 二.传统优化方法的局限性（2） 最优性达到的条件太苛刻——问题的函数为凸，可行域为凸； 在非双凸条件下，没有跳出局部最优解的能力。 三.实际问题中对最优化方法的要求（1） 对问题的描述要宽松(目标和约束函数)—— 可以用一段程序来描述(程序中带判断、循环)，函数可以非连续、非凸、非可微、非显式； 并不苛求最优解——通常满意解、理想解就可以了； 三.实际问题中对最优化方法的要求（2） 计算快速、高效,可随时终止(根据时间定解的质量)； 能够处理数据、信息的不确定性(如数据的模糊性，事件的随机性)。 四.智能优化算法的产生与发展（1） 1975年holland提出遗传算法 (Genetic Algorithm) 1977年Glouer提出禁忌搜索算法 (Tabn Search) 四.智能优化算法的产生与发展（2） 1982年Kirkpatrick提出模拟退火算法 (Simulated Annealing) 人工神经元网络 1995年Dorigo提出蚁群算法 (Ant Colony Optimization) 四.智能优化算法的产生与发展（3） 1995年Kennedy Eherhart提出粒子群优化 (Particle Swarm Optimization) 其它 文化算法(Cultural Algorithm) 人工生命算法(Artificial-Life Algorithm) 四.智能优化算法的产生与发展（4） 我们统称以上算法为人工生命计算 (Artificial Life Computation) 人工生命计算 + 模糊逻辑 (Fuzzy Logic)= 软计算(Soft Computation) 人工生命计算 + 进化编程 = 进化算法 (Evolutionary computation) 五.应用前景局限性和研究方向、注意事项（1） 应用前景十分广阔——国民经济的各个领域 局限性——不能保证最优解，理论上不完备 五.应用前景局限性和研究方向、注意事项（2） 研究方向及注意事项 以应用为主，扩大面向新问题的应用；不要刻意做理论研究，若碰上也不拒绝; 算法改进表现在以下几个方面：问题的描述、编码方法、算法构造及可