优化问题2智能优化算法笔试考试南京理工.docVIP

最优化问题 一般最优化问题的数学模型为其中x为决策变量，D为一个集合称为可行域，f为D上的一实值函数称为目标函数.集合D中的任一元素称为问题的可行解，如果有一可行解x*满足f(x*) = min{ f(x)|x 属于 D}，则称x*为问题的最优解，而f (x*)称为最优值.在大多数情况下，可行域D是由一些称之为约束条件来确定的.求解最优化问题就是寻找问题的最优解.最优化问题也可以是极大化目标函数，此时若将f换作一f，那么极大化问题可转化为上述极小化问题. 组合优化问题 当最优化问题中的可行域D是一个由有限个元素组成的集合时，该最优化问题称为组合优化问题.通常组合优化问题可表示为现实生活中大量问题是组合优化问题，典型的组合优化问题有旅行商问题，背包问题，并行机排序问题等等. 旅行商问题(traveling salesman problem, TSP): 设有n个城市1,2,……，n,城市i与城市j间的距离为dij，一售货商要去这些城市推销货物，他希望从一城市出发后走遍所有的城市且旅途中每个城市只经过一次，最后回到起点.选择一条路经使得售货商所走路线总长度最短，这就是旅行商问题. 其中|S|表示集合S中元素的个数. 背包问题(knapsack problem): 设有一个容量为b的背包，n个容积分别为Wi，价值分别为Ci(i=1，2，…，n}的物品，选择那些物品放入背包中以使装入的物品总价值最大，这就是背包问题.引入决策变量Xi，若第i个物品被放入包中，则Xi = I，否则Xi=O( i=1, 2,…，n).那么背包问题的数学模型为 并行机排序问题(parallel machine scheduling): 设有m台同型机器M1,M2,M3……Mm,n个相互独立的工件J1,J2,…,Jn.现在要安排这些工件到机器上进行加工，设每个工件只需在任一台机器上加工，工件Ji的加工时间为ti(i = 1, 2,…，n).如何安排这些工件的加工方案，以使机器完成所有工作的时间最少.这就是并行机排序问题. 由于组合优化问题中的可行域是有限集，所以从理论上看可以将这有限个可行解枚举出来，一一地计算出他们对应的目标值，然后通过比较大小找出最优解.对于小规模的组合优化问题，用这种方法很容易求出最优解.但对于大规模或稍大规模的组合优化问题，这种求解方法就不一定可行了. 计算复杂性 计算复杂性 我们考虑这样一个问题:有n种作物种子，把它们分别播种到n块地里，每种种子在不同的地块里的产量不同因而所得产值也就不同，要求做一个播种方案，以使总产值最大.所有可能的播种方案有n!种，若把列出一种方案作为一次基本操作，则需n!次基本操作.用每秒执行一千万次操作的计算机来运算，当n=19时，至少需要385.7年才能完成这些操作找出最优解.当n=20时，至少需要7714.6年才能完成这些操作找出最优解.这是不可实现的.要了解问题的复杂性，从而针对性地设计算法解决所研究的问题. 启发式算法 启发式算法是一种技术，这种技术使得在可接受的计算费用内去寻找最好的解，但不一定能保证所得解的可行性和最优性，甚至在多数情况下，无法阐述所得解同最优解的近视程度. 背包问题的贪婪算法 简单的邻域搜索算法 Step 1.任选一个初始解xo 属于D . Step 2.在N(so零)中按一定规则选择一个s;若f(s)f(so), 则So:=s.否则，N(So)= N(So)-{s};若N(So)-{So}=fai，停止;否则，重复step 2. 启发式算法分类 1.简单直观的算法 (1)一步算法.如背包问题的贪婪算法 (2)改进算法.如邻域搜索算法 2.数学规划算法.如分支定界法，割平面法3.智能算法 启发式算法的性能分析 最坏情形分析 对所有实例工，评价关系式为 数学规划 1线性规划2非线性规划3多目标规划4目标规划5动态规划6多层规划7Benchmark问题 线性规划 线性规划(LP)是指目标函数是线性函数，约束条件由线性函数确定的优化问题.标准的LP可表示为: 一个点x称为凸集S的极点如果xES且x不能表示为S中两点的凸组合. 已证明，如果LP的可行集S是有界的，那么LP的最优解对应可行集的一个极点. 单纯形算法 单纯形算法由Dantzig (1963)提出，它是求解LP的一个非常有效的算法.单纯形算法只需在可行集的极点上进行操作.首先，单纯形算法任选一个极点作为初始点此后以改进目标值为依据选取下一个极点.该过程一直到目标值不再改进为止最后一个极点就是最优解. 非线性规划 非线性规划(NLP)中目标函数是非线性函数或约束条件由非线性函数确定.NLP的一般形式为 Kuhn一Tucker条件 下降法 选一个认为最可能是极大值的点从该点出发构造一个点列，每 个点的