数学建模 算法介绍综述.ppt

优 化 算 法 基 础 马建华 2011年7月 进化算法 算法基础 遗传算法 算法基础 算法的概念 算法分类 算法的评价 算法的概念 算法—计算方法 把求解问题的方法程式化、规范化 算法是程序的依据、程序是算法的计算机实现 算法思想与依据—实现技术—算法步骤 算法构成 算法组成 初始条件—指定参数、初始解 迭代方法—转移规则、生成新可行解的方法 终止条件—最优性条件或可接受条件 输出结果—最优解或可接受解 算法的分类 构造算法 搜索算法 启发式算法 进化算法 构造算法 明确知道最优解的结构特征 直接构建最优解，中间过程得到的是最优解的部分，不是可行解； 最小支撑树的算法 最小支撑树的算法 算法思想 算法构成 关键技术 算法思想 依据--加上支撑树外的任一边构成唯一的圈，树外边是该圈中权最大的。 从权重小的边开始加边，新拿的边如果和已加入的边构成圈就不加，否则就加入。 关键技术 选择圈中最小的边 按权重从小到大排序 判断是否构成圈 算法构成 初始条件：已加边集为空集，未拿边集为全体边 迭代规则：从未拿的边中选一个权重最小的，如果该边与已加入边构成权就舍去，否则就加入 停止规则：已加边的个数等于顶点数减1或者没有未拿边 输出结果：已加边集或没有支撑树 搜索算法 知道最优解满足的条件，但不知道其结构 从一个可行解出发按某种规则生成新的可行解直到满足最优性条件 单纯形算法 单纯形算法 算法思想 关键技术 算法构成 算法思想 从基可行解中找最优解，从一个基可行解开始，判断是否满足最优性条件，如果满足就停止，否则看是否没有最优解，如果没有最优解就停止，否则生成一个新的最优解 关键技术 初始基可行解 计算检验数和典式 生成新基可行解 算法构成 初始条件：初始基可行解 迭代方法：计算典式和检验数，找初级变量和入基变量 终止条件：检验数小于等于零或检验数大于零的分量对应典式列小于等于零 输出结果：最优基可行解或没有最优解 启发式算法 不知道最优解的结构和最优性条件 模拟人们的思路或经验 贪心算法 最短路贪心算法 算法思想 关键技术 算法组成 算法思想 从起点开始，每一步都选最短的边，直到终点 关键技术 确定每个点关联的未选的边中权重最小的 算法构成 初始条件：已选边为空集，当前点为发点 迭代规则：从当前点出发的边中选择一个权重最小的边，其头部点为新的当前点。如果没有出点则返回上一个点重新选择。 终止条件：当前点为终点，或当前点没有出发点 输出结果：一条从起点到终点的路或没有路 1.3 启发式算法_定义 启发式算法（heuristic algorithm） 定义1. 基于直观或经验构造的算法，在可接受的花费（时间、空间）下，给出待解组合优化问题的每个实例的一个可行解，该可行解与最优解偏差事先不一定可以预计. 定义2. 启发式算法是一种技术，在可接受的计算费用内寻找最好解，但不保证该解的可行性与最优性，无法描述该解与最优解的近似程度。 特点（与传统优化方法不同）：凭直观和经验给出算法；不考虑所得解与最优解的偏离程度. 1.3 启发式算法_优点 优点： （1）有可能比简化数学模型解的误差小； （2）对有些难题，计算时间可接受； （3）可用于某些最优化算法（如分支定界算 法）之中的估界； （4）直观易行； （5）速度较快； （6）程序简单，易修改。 1.3 启发式算法_不足 不足： （1）不能保证求得全局最优解； （2）解的精度不稳定，有时好有时坏； （3）算法设计与问题、设计者经验、技术 有关，缺乏规律性； （4）不同算法之间难以比较。 1.3 启发式算法_分类 （1）一步算法 （2）改进算法（迭代算法） （3）数学规划算法 （4）解空间松弛法 1.3 启发式算法_分类 （5）现代优化算法： 80年代初兴起 禁忌搜索（tabu search） 模拟退火（simulated annealing） 遗传算法（genetic algorithms） 神经网络（neural networks） 蚂蚁算法（Ant Algorithm，群体（群集）智能，Swarm Intelligence） （6）其他算法： 多种启发式算法的集成. 1.3 启发式算法_性能分析 （1）最坏情形分析（worst case analysis） 利用最坏实例分析计算复杂性、解的效果。 (2）概率分析 （probability analysis） 用最坏情况分析，会因一个最坏实例影响总体评价. 在实例数据服从一定概率分布情形下，研究算法复杂性和解的效果. (3)大规模计算分析 通过大量实例计算，评价算法效果. 注意数据的随机性和代表性. 进化算法 不知道最优解的结构和最优