智能计算导论.ppt

* 1.3 启发式算法 智能优化计算 启发式算法的特点 是一种技术； 不能保证所得解的最优性； 启发式算法的发展历史 20世纪40年代——起步 20世纪60～70年代——被鄙视 20世纪70年代——观点转变 20世纪80年代至今——研究热潮 1.3.1 启发式算法的定义 * 1.3 启发式算法 智能优化计算 例子——背包问题的贪婪算法（Greedy algorithm） 贪婪算法：采用逐步构造最优解的方法。 在每个阶段，都作出一个看上去最优的决策（在一定的标准下）。决策一旦作出，就不可再更改。作出贪婪决策的依据称为贪婪准则（greedy criterion）。 1.3.1 启发式算法的定义 * 1.3 启发式算法 智能优化计算 例子——背包问题的贪婪算法（Greedy algorithm） STEP 1 STEP 2 1.3.1 启发式算法的定义 * 1.3 启发式算法 智能优化计算 启发式算法的优点 1. 模型误差、数据不精确性、参数估计误差等可能造成最优算法的解比启发式算法的解更差； 2. 复杂问题无法求得最优算法或最优算法太复杂； 3. 简单易行，直观，程序简单。 启发式算法的缺点 1. 不能保证最优； 2. 不稳定； 3. 依赖于实际问题、设计者经验。 1.3.1 启发式算法的定义 * 1.3 启发式算法 智能优化计算 简单直观的算法 一步算法：不在两个可行解之间比较，在未终止的迭代过程中，得到的中间解有可能不是可行解； 例：背包问题的贪婪算法 改进算法：迭代过程是从一个可行解到另一个可行解变换，通过两个解的比较而选择好的解，直到满足一定的要求为止； 例：TSP问题的2－opt方法 1.3.2 启发式算法的分类 P1 P6 P2 P5 P3 P4 2 2 0 3 1 2 2 2 2 4 4 3 4 3 * 1.3 启发式算法 智能优化计算 数学规划算法 用连续优化（如线性规划）的方法求解组合优化问题（如整数线性规划模型），其中包括一些启发式规则。 基于数学规划的理论。 1.3.2 启发式算法的分类 * 1.3 启发式算法 智能优化计算 现代优化算法 禁忌搜索算法 模拟退火算法 遗传算法 人工神经网络 蚁群算法 粒子群算法 混合算法 1.3.2 启发式算法的分类 特点： 基于客观世界中的一些自然现象； 建立在计算机迭代计算的基础上； 具有普适性，可解决实际应用问题。 * 1.3 启发式算法 智能优化计算 评价算法优劣的指标 算法的复杂性（计算效率） 解的偏离程度（计算效果） 算法的稳健性（不同实例、不同时间、不同起点的差异） 评价算法优劣的手段 最坏情况分析（纯理论） 概率分析（理论分析） 计算模拟分析（统计特性） 1.3.3 启发式算法的性能分析 * 1.4 计算复杂性与NP完全问题 智能优化计算 时间复杂性和空间复杂性概念 算法的时间复杂性：算法对时间的需要量（加、减、乘、除、比较、读、写等操作的总次数）； 算法的空间复杂性：算法对空间的需要量（存储空间的大小，二进制位数）； 问题的时间复杂性：所有算法中时间复杂性最小的算法时间复杂性； 问题的空间复杂性：所有算法中空间复杂性最小的算法空间复杂性； 1.4.1 计算复杂性的基本概念 * 1.4 计算复杂性与NP完全问题 智能优化计算 复杂性问题分类 P类、NP类、NP完全类 复杂性表示方法 复杂性表示为问题规模n（如TSP的n）的函数， 时间复杂性T(n)，关键操作的次数； 空间复杂性S(n)，占用的存储单元数量； 1.4.1 计算复杂性的基本概念 * 1.4 计算复杂性与NP完全问题 智能优化计算 复杂性表示方法 若算法A的时间复杂性为TA(n)=O(p(n))，O(p(n))