修正Broyden族拟牛顿算法及其运用.pdf

博士学位沧文 摘要 鬣优化问题及其理论和算法米源予经济，管理，工程等许多重谣领域，同时和 计算数学中瓣微分方程数僮解法，菲线性方程组数基黪洼等分支寄着密甥酶联系 和应用传统的Broyden族拟牛顿算法因为其良好的数值效果和快速收敛速度已 成为求解最优化问题颇受欢迎的一类算法．自上世纪60年代以来，传统的Broyden 族拟牛顿募法的璎论受到了广泛戆重视并且墨经取得了事磋静残聚．当銎标瓣数 是凸磷数时、该类算法的局部收敛性和全局收敛性理论融得到很好的解决． 当目标丽数鼹菲凸函数时，Dai构造了一个反例说明了使用非精确搜索的BFGS 算洼对非凸涵数不是全局收敛戆．寒爨王稷中游许多实躲鞫题往经整是非凸魏。研 究求解非凸的优化问题的拟牛顿算法的全局收敛性具有现实的理论意义和实际意 义． 本文首先研究求黪裴凸的无约束拢恁闻题戆修正BFGS算法以及Broyden 族拟牛顿算法的全局收敛性及其趣线性收敛性．在此基础上．我们研究求勰非线性 疆，j、二乘问题的结构化拟牛顿法及其收敛惶理论最后，我们研究求解变分不等 式耀题鲍模单调下降鲍BFGS葵法及冀全局收敛渡分枣子． 首先，在第二章到第四嚣，我们研究求解下面无约荣优化问题的算法， 其中，：舻一瓣是一光滑函数．最近，Zhang，Deng和Chen以及Wci，Yn和 ‰an等分舅《提出了满怒薪的撅牛顿方程酶瓠牛顿算法，希望提高传统损牛顿算法 的效攀-他髓对厨提出的叛牛顿篓法的局部收敛性进行了分掇。但是，当基标灏数 ，是非凸函数时，这些算法的全局收敛性尚不清楚．我们在Li和Fukushima全局 Wei：Yn和Yuan簿的拟牛顿方程鼹修燕的BFGS葵法秘保守修正的BFGS葵法。 在较弱的条件下，我们证明邋两种方法用于求解非凸函数的无约束优化问题时，具 宥全局收敛住及萁超线往i|5c敛往．进而，在第舀章，我们研究修正的Broyden族 拟牛顿算法及其全局收毁嚏．我§】涯明冤论是基予传统鲍接牛顿方程还楚Zhang， 顿算汝在适警的条件下，不识是局部超缭往收敛的，而且具有全局收敛健， 求鼹菲线性最小二黎闯题的缨擒{l：擞牛顿法熬全局收敛。陡闻题是人钢关淡的 研究难点课题．研究该问题的主要困难在于结构化拟牛顿法产生的矩阵不能保证 对称芷定性。本文第五章致力子谈问题酌研究．我们在对Yabe和Takahashi及 u}be秘Yamaki提出的分鼹结擒他攫牛顿雾泼进行{子绷分板的基皴上，结合簿睡 章的思想，提出了一种满秩分解的结构化的Broyden族算法．该算法的特点是，无 II 修《Broydcn族稼串顿葬法殛其寝用 论迭代点是否在解∞。的附近，都越保{嚣算法产生的迭代矩黪是正定的。我#】透明， 采用Wolfe线性搜索的这种结构化Broyden族拟牛顿法具有全局收敛性和超线性 收敛性此外，利用该算法与G哪s—Newton算法杂交使用，我们证明杂交算法对 零残差问题是=次收敛的， 在第六章，通过QR正交分解，我们对Yabe和Takahashi的结构仡分解形式 懿BFGS冀法逆行改进．改遂后的分解形式静结{每纯BFGS算法总篌缮逡代矩阵 是正定的．焱运避的基伴下，我口】证明这釉分黪形式的结梅化BFGS算法鲍髑部 超线性收敛性． 第七章，我们研究求解对称变分不等式的KKq、系统的具有单调下降性的 BFGS莽泫．我们酋先将对称变分不等式的KKT系统转化为等价的非光滑方 程组．然后考察餍叛牛颟算法求解该菲光滑方程组．我#]对“和Fukushima提 出毂{}攀调线瞧攫索烟以改遴，在姥基罄羔搀造一个捷方程维搂函数荜璃递城的 BFGS算法，在遗当的条件下我妇建立獒法的金局收毁瞧及熊超线牲收敛性定理． 关键词：无约束优化问题；{#线性最小二乘问题；变分不等式；Broyden族拟粤顿 算法；BFGS算法；全局收敛性；超线性收敛性 篓兰兰j薹翌茎 Abstract hasawide of in Optimizationrangepracticalbackgrotmdecononlics，man+ andSOon。Itisalso