新锥模型二维子空间信赖域算法：原理、应用与优化.docxVIP

新锥模型二维子空间信赖域算法：原理、应用与优化

一、引言

1.1研究背景与意义

在科学研究与工程实践中，诸多问题最终可归结为优化问题的求解。随着研究的深入和应用领域的拓展，我们所面临的优化问题愈发复杂，规模也日益增大，从数学层面来看，即待求解问题的维数不断增加。在这样的背景下，优化算法的效率与准确性显得尤为关键。

信赖域方法作为求解非线性规划的一类重要数值计算方法，凭借其良好的可靠性和强收敛性，在近二三十年来受到了优化界的高度重视，并广泛应用于各类优化问题。传统的信赖域方法通常采用二次模型来逼近原问题，其基本思想是构造并求解信赖域子问题。然而，对于一些非二次性态强、曲率变化剧烈的函数而言，二次模型的逼近效果欠佳。例如，在某些复杂的物理模型、机器学习中的复杂损失函数等场景下，二次模型难以准确捕捉函数的特性，导致算法的收敛速度变慢，甚至可能陷入局部最优解。

鉴于二次模型的局限性，锥模型应运而生。1980年，Davidon首先提出了求解无约束优化的锥模型方法。锥模型相较于二次模型具有显著优势：其一，它具有更多的自由度，能够更好地逼近非二次性态强、曲率变化剧烈的函数；其二，二次模型未能充分利用前面迭代点的有用信息，而锥模型可以包含前面迭代过程中的函数插值信息，这有助于提升算法的效率；其三，经过理论分析和实验证明，锥模型方法能有效避免二次模型方法中的不足，进而改进和完善算法；其四，