广义最小信息熵问题和其对偶理论及求解方法.pdf

摘 要 非线性规划是运筹学数学理论中特别重要而又活跃的一个分支，可认为它是有限维 最优化经典理论的再创造，其特征主要在于：所研究的最优化问题允许复杂的约束，对 最优性、对偶性诸方面进行深入的分析，并强调进行理论概括和提出可行的算法。随着 现代计算机技术的日趋发展，非线性规划正越来越多地运用于最优设计、管理科学、系 统识别、数学物理变分问题等方面，并由此推动非线性规划的进一步发展。 线性规划中优美的对偶性理论，鼓励很多学者把对偶性概念推广到非线性规划问题。 在初期，他们发现可以将某些非线性规划表述为一个相应的对偶规划，且有少量相似于 线性规划的结果，但如果希望得到有意义的结果，只能考虑凸规划。六十年代后期，凸规 划更完全的对偶理论出现了，其中一种方式是基于Fenchel引进的共轭函数概念，这些 后来在Rockafellax的一系列著作中得以发展完善。 理。朱德通在文f8j中导出广义的Fenchel对偶定理，并将此定理成功地应用于带约束的 最小区别信息量问题(简称MDI问题)．本文讨论比MDI问题更普遍的带有二次约束和 熵密度约束的广义熵密度规划问题，这两类问题在信息论、统计力学、对策论和保险业 中有着广泛的应用。基于凸规划知识和广义的Fenchel定理，作者推导出这两类问题的 对偶规划，且推导过程中没有涉及很深的数学知识，使得应用更为广泛． 通常，我们求出规划问题的对偶形式是希望将不易求解的原问题转化为易于求解的 对偶问题，在分别得到这两类问题的对偶形式后，发现其形式简单，只带有非负约束和线 性约束。本文针对更为一般的带线性不等式约束的优化问题提出弧线路径信赖域算法。 信赖域方法是近年来日益受到关注的一种新的保证算法整体收敛性的逼近方法，信赖域 方法的基本步骤是首先指定一个信赖域半径，然后用带约束的二次模型来确定搜索方向 与步长大小。朱德通在文f91中将最优路径和修正梯度路径与非单调信赖域方法相结合 讨论无约束优化问题，且文【3]中用信赖域方法解无约束优化问题取f2范数形成了形式 简单的近似信赖域路径，此类思想启发作者用弧线路径来解决约束优化问题。考虑到在 一般的信赖域方法中，当目标函数沿该搜索方向的实际下降量和预计下降量拟合得比较 好时，则由该搜索方向得到新的迭代点并调整信赖域半径。否则，缩小信赖域半径并重 新求解搜索方向，因此为求得一被接受的搜索方向往往需要多次求解信赖域子问题使得 计算量相当大。本文在求解线性不等式约束优化问题时，将近似信赖域路径与非单调信 赖域方法相结合，即在信赖域半径内沿近似信赖域路径得到一极小化二次模型的搜索方 向后采用回代法避免重复求解信赖域子问题，在此算法中当搜索方向不被接受时，就用 非单调线搜索技术得到接受步长，定义新的迭代点。这样大大提高了计算速度，而且为 了有更广泛的运用，在本文的实际算法中并不要求目标函数为凸函数。 本文共分为五章。第一章简述了非线性规划和对偶规划的一些基本概念以及一般非 线性规划问题的求解方法，作为研究的基础。第二章中基于广义的Fenchel对偶定理以 及相应的Kuhn—Tucker条件，导出带有二次约束和熵密度约束的广义熵密度问题的凸对 偶规划，强对偶定理以及相应的Kuhn—Tucker条件。第三章在第二章的基础上，应用La— 规划和完整的理论分析。第四章以这两类问题为背景，对更为普遍的线性不等式约束优 化问题提出了弧线路径信赖域算法，并给出计算结果。最后，第五章对本文的工作进行 了总结，提出了进一步的研究方向。 Kuhu—Tucker条 关键词：广义Fenchel对偶定理；Lagrange对偶规划；熵密度问题； 件；信赖域方法；非单调技术；收敛性。 分类号：0221．2 Dual and Solutionof Theory The Generalized MinimumInformation Problem