求解约束优化成绩的增广拉格朗日函数法.pdf

摘 要 约束优化问题广泛见于工程、国防、经济、金融和社会科学等许多重要领域．求 解约束优化问题的重要途径之一是把它们转化成无约束优化问题进行求解罚函数 方法是将约束优化问题无约束化的一类主要方法，它们通过求解一个或～系列罚问 题来得到约束优化问题的解．我们称罚问题的目标函数为一个罚函数．罚函数一般 与某个罚参数有关．如果当罚参数取大于某个较大正数的值(或者取大于零且小于 某个小正数的值)时，对应的罚问题的极小点与原约束问题的极小点之间存在某种 精确的对应关系，则称对应的罚函数为精确罚函数；反之，如果对于罚参数的任何正 的有限值，对应的罚问题的极小点与原约束问题的极小点之间都不存在精确的对应 关系，弼当罚参数趋于它的极限值(无穷大或者零)时，对应罚问题的极小点的极限 值与原约束问题的极小点之间存在某种精确的对应关系，则称对应的罚函数为序列 罚函数序列罚函数方法在理论上需要求解无穷多个罚问题来获得约束优化问题的 解．这种方法的主要缺点是，当罚参数的值很大(或者很小)时，罚问题成为坏条件 问题，从而使这种方法产生数值不稳定和收敛慢等缺点．精确罚函数方法在理论上 只需要求解一个(或有限多个)罚问题来获得约束优化问题的解，从而避免了序列 罚函数方法产生坏条件的缺点，精确罚函数包括刁；可微精确罚函数和连续可微精确 罚函数．在实际计算时。不可微精确罚函数法由于罚函数的不可徽性而使算法产生 所谓的“Maratos效应”，从而产生阻止快速局部收敛的现象．连续可微精确罚函数 大体上又包括两类：一类是定义在原约束问题变量空间上的连续可微精确罚函数； 另一类是定义在原约束问题变量空间和KKT乘子变量空问的积空间上的连续可 微精确罚函数，第一类连续可微精确罚函数通过使用乘予函数实现对不满足KKT 条件情形的“惩罚”乘子函数是原问题变量的函数，它产生KKT乘子的估计．从 计算的角度来看，当约束的个数较多时，确定乘子函数值的代价是相当大的、因为它 需要求出与约束个数同阶的一个矩阵的逆，而每一次计算罚函数值都需计算出乘子 函数值JF是由于这一原因，使得这种连续可微精确罚函数的应用在某种程度上受 到了限制第二类连续可微精确罚函数又可以分为两个子类：第一个子类是把考虑 KKT条件的项加到约束问题的目标函数上：第二个子类是把考虑KKT条件的项 加到通常的拉格朗日函数上，因此称之为增广拉格朗日函数．大量的理论结果和数 值试验均表明，增广拉格朗日函数法(亦即使用增广拉格朗Et函数作为罚函数的连 续可微精确罚函数法)比序列罚函数法和不可微精确罚函数法具有明显的优点．它 们克服了序列罚函数法产生坏条件和不可微精确罚函数法产生“Maratos效应”的 I 缺点．同时，增广拉格朗日函数法也具有比其它连续可微精确罚函数法优越的性质 本文主要考虑求解约束优化问题的增广拉格朗臼函数法．首先，我们进一步研 究了求解等式约束问题和不等式约束问题的Hestenes．Powell增广拉格朗日函数法 的理论性质；然后，我们提出了求解等式约束问题的一类增广拉格朗曰函数法，并研 究了它们的精确性质，然后把其中的一个增广拉格朗日函数法的相关结果推广到了 不等式约束的情形；最后，我们提出了求解不等式约束问题的一个新的增广拉格朗 日函数法，并研究了它的精确性质， 本文具体内容安排如下，第一章，我们陈述了本文所要用到的一些基本概念及 有关结论，并简要介绍了目前国内外关于增广拉格朗日函数法和罚函数法的研究状 况第二章，我们进一步研究了求解等式约柬问题的Hestenes-Powell增广捉格朗 同函数法的理论性质．具体内容包括：1等式约束问题的拉格朗日函数的稳定点 的对应关系；2．等式约束问题的局部极小点与Hestenes．PoweU增广拉格朗日函数 的无约束局部极小点之间的对应关系：3等式约束问题的全局极小点与Hestenes— Powell增广拉格朗日函数的全局极小点之间的对应关系；4．利用我们得到的理论结 果，对求解等式约束问题的一个用Hestenes-Powen增广拉格朗日函数的算法模型 作了一些解释．第三章，我们进一步研究了求解不等式约束问题的Hestenes-Powell 增广拉格朗日函数法的理论性质．具体内容包括：l-H；等式约束问题的KKT对与 Hestenes-Powell增广拉格朗日函数的稳定点之间的对应关系；2．不等式约束问题 的局部极小点与Hestenes-Powell增广拉格朗日函数的无约束局