第1章 导言培训讲解.ppt

* 智能优化方法AI-Based Optimization Methods By Wang Hongfeng PhD ISE, NEU China 2011 “智能优化算法”课获得了2010年东北大学研究生精品课立项资助。 肯定与激励！！! * * 课程进度 No.1 导言、伪随机数的产生方法 No.2 禁忌搜索 No.3 模拟退火 No.4 进化算法(GA) No.5 进化算法(GA) * 课程进度 No.6 其他进化算法(ES, EP, GP) No.7 群体智能算法(ACO) No.8 群体智能算法(PSO) No. 9 最近出现热门智能优化算法 * 教材 《智能优化方法》 汪定伟 王俊伟 王洪峰 张瑞友 郭哲 编著 高等教育出版社 中英文文献 * 教材 * 第一章 导言 * 第一章 导言 〇.最优化的重要性 一.传统优化方法的基本步骤——三步曲 二.传统优化方法的局限性 三.实际问题中对最优化方法的要求 四.智能优化算法的产生与发展 五.应用前景局限性和研究方向、注意事项 六.优化领域的最新进展 * 一切学科都是建模与优化在某个特定领域中的应用 概念模型(定性) → 结构模型(图) → 数学模型 → 智能模型 〇.最优化的重要性（2） * 最优化理论的发展 极值理论； 运筹学的兴起(Operation Research)； 数学规划：线性规划(LP)；非线性规划(NLP)；动态规划(DP)；马尔可夫规划(MDP)；排队论；决策论；存储论。 最优化理论在国民经济中的广泛应用 〇.最优化的重要性（3） * 如后面框图所示 选一个初始解 LP:大M，二阶段法 NLP:任意点或一个内点 一.传统优化方法的基本步骤—三步曲（1） * 停止判据——停止规则最优性检验 LP:检验数 当∏≥0时有可能减小 NLP: 一.传统优化方法的基本步骤—三步曲（2） * 向改进方向移动——改进解 LP:转轴变换(进基、退基) NLP:向负梯度方向移动(共轭梯度方向、牛顿方向) 一.传统优化方法的基本步骤—三步曲（3） * 停机 选择一个初始解 停止准则 向改进方向移动 启动 Y N 一.传统优化方法的基本步骤—三步曲（4） * 对问题中目标函数、约束函数有很高的要求——有显式表达，线性、连续、可微，且高阶可微; 2. 只从一个初始点出发，难以进行并行、网络计算，难以提高计算效率； 二.传统优化方法的局限性（1） * 最优性达到的条件太苛刻——问题的函数为凸，可行域为凸； 在非双凸条件下，没有跳出局部最优解的能力。 二.传统优化方法的局限性（2） * 对问题的描述要宽松(目标和约束函数)——可以用一段程序来描述(程序中带判断、循环)，函数可以非连续、非凸、非可微、非显式； 并不苛求最优解——通常满意解、理想解就可以了； 三.实际问题中对最优化方法的要求（1） * 计算快速、高效,可随时终止(根据时间定解的质量)； 能够处理数据、信息的不确定性(如数据的模糊性，事件的随机性)。 三.实际问题中对最优化方法的要求（2） * 启发式算法： 1977年 Glover提出禁忌搜索算法 (TS) 1982年 Kirkpatrick提出模拟退火算法(SA) 进化算法： 1965年 Rechenberg提出进化策略(ES) 1975年 holland提出遗传算法(GA) 1995年 Fogel提出进化规划(EP) 四.智能优化算法的产生与发展（1） * 进化算法： 1995年 Tackett提出遗传规划(GP) 1995年 Storn Price提出差分进化(DE) 群体智能算法： 1995年 Dorigo提出蚁群算法(ACO) 1995年 Kennedy Eherhart提出粒子群优化算法(PSO) 四.智能优化算法的产生与发展（2） * 其他算法： 1998年 Linhares提出捕食搜索算法(PS) 2004年 Wang提出群落选址算法(CLA) 文化算法(CA)、量子算法(QA)等 四.智能优化算法的产生与发展（3） *