拉格朗日正则化方法与线性规划原-对偶算法的研究-运筹学与控制论专业论文.docx

摘 摘 要 本论文主要对拉格朗日正则化方法和线性规划原一对偶算法进行了研究，其 中，前者是一种特殊的光滑化方法，为本文线性规划原一对偶内点和非内点算法 的建立提供了基础。 极大熵方法是解有限极大极小问题的一种有效光滑化法，它通过在极大极小 问题的拉格朗曰函数上引进Shannon信息熵作正则项，给出一致逼近极大值函数 的光滑函数。因该函数所具有的优良性质，使其在求解各类优化问题中得到了广 泛的应用。 本文从两个方面发展了这种熵正则化方法．即将其从极大极小问题推广到一 般不等式约束优化问题上和用一般函数代替熵函数作正则项，建立新的正则化方 法。为了克服不可微正齐次函数Jf．』孵：)给约束优化问题的等价无约束形式 孵吖(x)s，(工)+占(g(工)l孵) 求解带来的困难，我们将其目标函数M(x)重新用一个以经典拉格朗日函数为目 标的锥优化问题来表示。当将熵函数作为正则项加到拉格朗日函数上，我们得到 了逐点逼近于M(x)的光滑函数。经证明，该函数即为指数罚函数。在此基础上， 通过用一般可分离乘子函数代替熵函数作正则项，建立了一种新型正则化方法， 即拉格朗日正则化法。该方法不仅提供了统一光滑不可微函数MO)和占(．I贸：) 的办法，而且还给出了一种构造罚函数的统一框架，由此将罚函数与经典拉格朗 日函数从对偶空间的角度联系在一起。 本文上篇共含四章，主要进行拉格朗曰正则化法的研究。第一章为绪论，简 单描述了熵正则化方法与罚函数法的研究现状；第二章．针对有限极大极小问题， 通过研究熵正则化方法与指数(乘子)罚函数方法之间的关系，揭示熵正则方法的 数学本质；第三章将极大熵方法推广到一般不等式约束优化问题上，建立了拉格 朗日正则化方法；第四章利用第三章建立的拉格朗日正则化方法，给出一种构造 罚函数的统一框架，并通过具体的罚和障碍函数例子加以说明。 本文下篇集中建立求解线性规划的有效原一对偶算法。在各种内点法里，最 __—-—-_●—-————————__-_-_-__--———-——-—___——__--—__-_________●_____-_—_————————一一一 __—-—-_●—-————————__-_-_-__--———-——-—___——__--—__-_________●_____-_—_————————一一一 成功的也是最为有效的当属原一对偶路径跟踪算法。但现有的算法几乎都是基于 标准摄动方程组，即标准线性规划对数障碍问题的K-K—T系统，建立起来的· 本文从三个不同的角度来改造此摄动方程组，并建立相应的原一对偶路径跟踪内 点和非内点算法。 经过对标准中心化方程协=朋实施代数等价变换，我们得到了一个新的扰 动K—K-T方程组，并针对具体的幂变换，由此摄动方程组给出了彭积明等人在缩 减大步算法的复杂性界限时所使用的牛顿方程。在这一事实和彭等人的出色结果 激发下，我们利用一个特殊的代数变换一对数变换，建立一个不可行大步原一对偶 路径跟踪内点算法。该算法在遵循中心路径的同时，沿着原～对偶熵函数的最速 下降方向达到线性规划的原一对偶解集。另外，基于min—tflax本身所具有的“均 化”作用，我们定义了一个新的邻近度量函数，并以其最优性条件作为中心化方 程。其目的是在摄动方程本身建立一种自调节机制，以使牛顿方向能够根据上一 次迭代点的信息在各个互补对之间作出自适应的调整。前述的两种方法是针对扰 动K—K—T系统进行的，而本文的另一种方法是采用NCP函数，直接将标准线性规 划K～K—T条件化为一个不舍内点约束的等价方程组，以此改造标准摄动方程组。 下篇由后四章组成。第五章简单回顾了线性规划及内点法，并重点介绍了原 一对偶路径跟踪内点算法。第六章研究了对标准中心化方程实施代数等价变换的 作用，并特别就对数变换情形，建立一个不可行大步原一对偶路径跟踪内点算法， 同时给出其收敛性及复杂性界限分析。第七章，通过构造一个新的邻近度量函数， 提出一个具有自调节功能的原一对偶路径跟踪内点算法，并将其与线性规划软件 LIPSOL和彭等人的MclPM进行数值比较，证实了该算法的有效性：第八章，基 于NCP函数及其光滑函数，建立求解线性规划的非内点原一对偶路径跟踪算法， 并给出相应的全局及局部收敛性分析。 关键词 极大极小问题熵正则化方法不等式约束优化问题 拉格朗日正 则化法单调共轭函数 回收函数 罚函数线性规划 中心路径 原一对偶路径跟踪算法等价代数变换邻近度量NCP函数 H AbstractThis Abstract This dissertation is devoted to studying Lagrangian regularization approach and primal。dual algorithms for linear p