非线性优化的加速收敛方式及其应用.pdf

钡1‘论文 静蛙怿优纯勰翱}速收敛方法琏搀商用 摘 要 序列加遮收敛方法(外推手段)能以较小的计算量，快速、准确地得出需求的数 篷结巢，麸麓被广泛应雳予数霞计冀豹各分支。鉴戴，本文基于魏器怒对菲线谯撬亿 问题的求解展开了全面的应用讨论。 曾先，对菲线槛优化闷题解轿优纯葬法中的主要组成部分——一维搜索迸行了应 用研究，得到了三个快速一维算法，并从理论上和数值试验蕊个方面证明算法的有效 性。 冀次。对求鼹非线性饯{芝阉题蛇最麓洼懿爨遮下降方法产生静迭代窍列，逡曩自 量序列加速收敛手段进行了讨论，导出了一些实用的加速算法，并从理论上证明快速 算法懿有效馁，众多鼗毽试验逐一步表明：掇速渡敛的方法籀跑较臻速瓣冗乎都链够 节约80％以一t的计簿量。 最后，将得到的这些优化加速收敛方法应用到了多层前馈神经网络的学习过程， 给出了加速收敛的BP算法，通过实赋神经啜络学习问题验证了工作的成效。 关键词 j}线性优化 嬷速收敛 钋推法 数值分瓠 BP葵法 坝I’论史 1|线性优化的加速收敛方法及Je廊用 Abstract Accelerated methodfor canuseless to convergence sequence computationget numerical and this was result reason．it usedin branch accuratelyquickly．For wildly every ofnumerical orlthis discussthesolutionofnonlinear idea，we computation．Based optimization． discussthe onedimensionsearchwhichisthe First，we main ofnonlinear part we threeacceleratedonedimensionsearch optimization，andget algorithms．Tointerpret oar not thetheoretical also somenumerical result，we onlygive proofs．butgive experiments． vector fromthe use Second，For method，we sequencecoming steep-descent methodforthe and some also extrapolation sequenceget applied algorithms．Wcgive