优化算法基本理论.ppt

智能优化算法 课程结构及学时安排 ? 第一章 优化算法基本理论 ? 第二章 神经网络基本理论 ? 第三章 遗传算法基本理论 ? 第四章 蚁群算法基本理论 ? 第五章 蜂群算法基本理论 ? 第六章 粒子群算法基本理论 ? 第七章 鱼群算法基本理论 ? 第八章 其他群智能优化算法 第 1 章 优化算法基本理论 1.1 优化的概念与方法 1.1.1 优化的概念 1.1.2 优化的一般数学模型 1.1.3 优化的分类 1.1.4 优化问题的求解方法 1.1.5 常用的无约束优化方法 1.2 智能优化的概念及分类 1.2.1 智能优化的概念 1.2.2 智能优化的分类 1.3 群体智能的概念及分类 1.3.1 群体智能的概念 1.3.2 群体智能的分类 1.3.3 群体智能的特点 1.3.2 群体智能算法的一般流程 1.1 优化的概念及方法 1.1 优化的概念及方法 1.1.1 优化的概念 优化、最优化均是一个术语，是指关于求解一个问题的 “最优”解的计算科学的一个分支，也就是从各种可能方案 中选取一个最好的，以达到最优目标。 从数学意义上说，最优化方法是一种求极值的方法，即 在一组约束为等式或不等式的条件下，使系统的目标函数达 到极值，即最大值或最小值。从经济意义上说，是在一定的 人力、物力和财力资源条件下，使经济效果达到最大（如产 值、利润），或者在完成规定的生产或经济任务下，使投入 的人力、物力和财力等资源为最少。 优化技术是一种以数学为基础、用于求解各种工程问题 优化解的应用技术。 1.1 优化的概念及方法 1.1.2 优化的一般数学模型 ? 数学模型 min f ? x ? g j ? x ? ? 0 ， j ? 1 , 2 , ? , p T n s.t. h i ? x ? ? 0 ， i ? 1 , 2 , ? , m 式中， x x 为 n 维矢量，也称为决策 ? ? x 1 , x 2 , ? , x n ? ? R ，即 变量； f f ? x ? 称为目标函数， ? x ? 、 h g j ? x ? 均为 x 的函数， i ? x ? 和 g j ? x ? 称为等式约束函数， 称为不等式约束函数； s.t. 为英文 h i ? x ? subject to 的缩写，表示“受限制于”。 对于求目标函数极大值的问题，可以转化为求极小值 。 1.1 优化的概念及方法 ? 几个定义 ? 可行解：又称为可行点或容许解，是指满足约束条件 的 x 。 ? 可行域：又称为容许集，是指全体可行解构成的集合， 即 D ? x h i ? x ? ? 0 , i ? 1 , 2 , ? , m g j ? x ? ? 0 , j ? 1 , 2 , ? , p x ? R ? n ? g j ? x ? 为连续函数，则 D 是闭集。 若 h i ? x ? 和 ? 最优解：一般分为整体最优解（总体最优解）、严格 整体最优解、局部最优解、严格局部最优解。 ? ? 整体最优解：若 x ? D 恒有 x ? D ，对于一切 ? f ? x ? ? ? f ? x ? ，则称 x 为最优问题的整体最优解。 1.1 优化的概念及方法 x ? x x ? D 和 ? 严格整体最优解：若 x ? D ，对于一切