一个新的u-Lagrange函数.docx

大连理工大学硕士研究生学位论文 1引言 本章对非光滑分析和最优化的研究给出了简短的综述，陈述了甜弘分解理论的历史 概述和研究背景，甜弘分解理论的主要思想，中间函数∽·Lagrangian)的来源，以及与 之相关的进一步研究的主要结果，论述了这一理论的应用价值． 1．1“弘分解理论综述 1．1．1“弘分解理论历史概述 “协分解属于非光滑优化研究领域． 优化理论的研究最早出现于16世纪20年代，其主要标志性的工作是费尔玛解决了这样一个优化问题： max z剪 s．t． z+可=10 到16世纪40年代， Newton和Leibniz提出了微积分学基本定理，这一定理可以用来解决众多的极小极大问题．利用这一有效的工具可以使光滑(可微)函数的优化问题的求解变得相当简单． 但是，在科学技术，管理科学和经济学等领域的研究中，非光滑现象不可避免，因而非光滑最优化理论一直是一个倍受关注的重要研究课题．由非光滑的复杂性，使得在传统光滑假设下所进行的大量最优化不能直接应用于给光滑情况中，因此需要有新的理论体系． 七十年代C1盯ke(1973／75)广义方向导数与微分引入之后，非光滑最优化成为一个独 立的研究方向．此时，对于非光滑函数的研究主要存在两个问题： 1．一般说来，次微分(或cl盯ke意义下的广义梯度)是一个集合从而难以确定，其 运算多以包含关系形式来刻画，换句话说，广义方向导数较大，即 ，o(z；d)≥，7(。；d) 对一阶近似的余项结构或形态不能清楚的表达． 1 一个新的“一Lagra血ge函数 2．关于函数的二阶近似，即二阶展开，这关系到算法的二阶收敛性问题，这是白八十年代以来非光滑分析与最优化研究中的一个核心课题． 非光滑函数的二阶近似与二阶展开是研究实际问题所需要的某些算法的基础．随着计算机的进步以及非光滑函数在实际中的广泛应用，需要设计具有高阶收敛性的算法， 因此对非光滑函数的二阶近似结构以及形态的研究显得尤为重要．正因为如此，众多的 优化专家不断地研究这一课题试图攻克非光滑函数的二阶近似理论，主要以非光滑凸函数为主攻方向．其主要方法包括构造一个二阶导数来逼近凸函数的二阶近似，定义一种集值映射的近似以代替次微分的近似，利用双方向定义二阶方向导数来用于逼近凸函数 的二阶近似，以及利用函数的上图得出上图二阶近似等．这些研究工作为以后的非光滑分析与优化无论是在理论研究还是在应用问题的探讨都打下了良好的基础． 近五、六年在这一专题的研究中有两项重要成果： 其一为Rockafellar(2000)关于非光滑凸函数的He8se阵的研究； 另一为Lemar6dlal，Mi毋in，sagastiz如“及Oustry等人提出的关于凸函数次微分的 “让分解理论．这一理论的提出为非光滑优化的研究提供了一种有效的工具． 1．1．2“y-分解理论的理论背景 当函数，在不可微点牙处作二阶Taylor展开时，主要困难是来自次微分(梯度)不 是一个向量而是一个集合，要得到函数的二阶展式需要处理两个集合的差商，如何能够给出一个合理的表达是一个不容易解决的问题．对于这一问题的处理，以前的结果给了 我们很多的启示． 首先， J．一B．Hiriart—urru毋和c．Lema挺c11a1(1993)剐指出， ，7(z；·)的线空间“满足如下性质： ，7(。；-)在甜上的限制是线性的且等于(8，-)，其中s是次微分a，(z)中的任意元素．纠是使得函数九一，(o+九)在点h=0处是可微的，而a，(z)在纠上的投影是单点集(即沿着“的方向，a，(z)具有o_宽度)．由此可以得到下面事实： 第一，存在靴的一个子空间酣，使得，7(圣；·)在纠上是线性的； 第二，定义，的二阶展开式无需沿着酣以外的方向． 基于上面的思想， C．Lem盯6chal，F．0ustry和C．Sagastiz幻al(2000)提出了“V分解理论． 1_1_3 酣-Lagrange函数的来源 弘Lagr龃ge函数的思想来源于C．Lem盯6chal和C．Saga8tiz曲a1对凸函数的一阶展开 中的余项问题以及凸函数与它的Moreau-1内sida正则化的二阶性质之间的关系的研究． 设妒是R”上的有限值凸函数，妒的Moreau_Yb8ida正则化定义为 垂(茁)：=黜{妒(。)+扣一z仍 正则化函数的共轭函数为圣+=妒++驯·悒这里我们可以看到西+与∥具有相同 2 大连理工大学硕士研究生学位论文 的光滑性，可以通过研究垂的性质得到妒的二阶性质． 整个空间Ⅱ妒可分解为两个直交的子空间：黔=Ⅳo丁，其中Ⅳ与丁互为极锥，即任意s∈R“都可以表示为s=w+s丁，其中sⅣ：=Pro¨(s)，s丁：=Proj丁(s)．给定一点知及90∈a妒‰)则我们可以利用这一分解Ⅳ=％p(：。)‰)和丁=码p(。)(踟)．设 g∈a垆‰