一种新型拉格朗日神经网络解决非光滑优化问题.PDFVIP

优先出版 计 算 机 应 用 研 究 第33 卷 一种新型拉格朗日神经网络解决非光滑优化问题* 喻 昕，李晨宇，许治健，曾俊彦 (广西大学 计算机与电子信息学院，南宁 530004) 摘 要：针对函数是非光滑的问题以及采用固定惩罚项的弊端，利用 Clarke 广义梯度的理论和lagrange 乘子法的思想， 建立了一个微分包含的神经网络模型。此模型是采用罚函数的方法，有效避免了固定项的缺陷。理论证明了网络是有全 局解的，并且收敛到原问题的关键点集，对于凸问题来说网络收敛的平衡点就是问题的最优点。最后通过仿真实验验证 了理论结果的正确性。 关键词：非光滑优化；神经网络；局部利普西斯函数；拉格朗日函数 中图分类号：TP183 Novel Lagrange neural network for nonsmooth optimization problems Yu Xin, Li Chenyu, Xu Zhijian, Zeng Junyan (School of Computer, Electronics Information, Guangxi University, Nanning 530004, China) Abstract: To solve the problems that many functions are nonsmooth and fixed penalty term has its disadvantages, using the Clarke’s generalized gradient of the involved functions and Lagrange method, a gradient system of differential inclusions was established. it has a variable penalty term to avoid some disadvantages of fixed penalty term. And the network has a global solution and its trajectory converges to the critical point set of primal problems. Furthermore, if the problem is convex, the equilibrium point exactly reconciles the solution of the programming problem. Finally, simulation results illustrate above theoretical finding. Key Words: nonsmooth optimization; neural network; locally lipschitz function; lagrange function 知，不可微问题比起可微问题更加复杂并且应用更加广泛，因 0 引言 此研究不可微问题是很有必要的。现在随着数学的发展，如广 近年来人工神经网络解决非光滑优化的问题已成为最优化 义梯度，微分包含等新的分析方法的出现，使得我们能够更加 问题研究领域的一个热点。它的主要思想是利用人工神经网络 有效地利用人工神经网络解决非光滑优化问题。 来求解最优化问题，使得网络的平衡点集与问题的最优点集一