人工神经网络模型及其在优化问题中应用.pdfVIP

人工神经网络模型及其在优化问题中的应用 孙阳，孙文生 北京邮电大学电信工程学院，北京(100876) E-mail: sunyang929@163.com 摘 要： Hopfield 人工神经网络为解决NP 问题提供了一种有效的途径，本文探讨了Hopfield 神经网络模型的稳定性和有效性问题，并以求解TSP 为例，给出了采用Hopfield 神经网络 求解组合优化问题的一般方法。 关键词：Hopfield 人工神经网络, 并行计算，TSP 1. 引言 美国物理学家Hopfield 于 1982 年和 1984 年在美国科学院院刊上发表了两篇关于人工 神经网络(Artificial Neural Network, ANN)的论文[1]，引起了巨大的反响。主要贡献为：根据 网络的非线性微分方程，引入能量函数的概念，使神经网络的平衡稳定状态有了明确的判 别依据；利用模拟电路基本元件构造了ANN 的硬件原理模型，为硬件实现奠定了基础。 ANN 是由大量神经元(Neuron)相互连接而成的自适应非线性动态系统，与目前广泛应 用的数字计算机(也称为冯.诺依曼计算机)相比，ANN 在构成原理和功能特点等方面更加接 近人脑，它不是按给定的程序一步一步地执行运算，而是能够自身适应环境、总结规律， 完成某种运算、识别或过程控制。ANN 以其并行处理机制，成功地解决了许多冯⋅诺依曼感 [2] 到很棘手的问题 。 在用Hopfield 神经网络解决优化问题时，一个重要的问题就是神经网络的稳定性和稳 态时解的有效性，我们称之为 Hopfield 神经网络的完备性。所谓稳定性指的是指在多次运 行中神经网络给出的有效解都在可接受的波动范围内，对应能量函数的极值点；而解的有 效性是指神经网络在稳态时能给出问题的一个有效解。而本文将深入探讨神经网络的完备 性问题，并以求解旅行推销员问题(Travelling Salesman Problem, TSP)为例，给出了求解优化 问题的一般方法。 2. Hopfield 能量函数和稳定性判别 Hopfield 利用非线性动力学理论中的能量函数方法(或Lyapunov 第二方法)研究反馈型 ANN 的稳定性，并用此方法建立求解优化计算问题的系统方程式，其能量函数表达式为 N N N N 1 1 V i − 1 E = − w V V − V I + f (V )dV (1) ∑∑ ij i j ∑ ∑ 2 i i R ∫0 i= 1 j = 1 i= 1 i= 1 i 在能量函数E 中，第一项和第二项分别反映突触连接电导与偏置电流的作用，f − 1 (V ) 表示函数f (V ) 的逆。第三项的积分项表示神经元函数式U 对V 的面积，当f 曲线呈 i i sigmoid 函数时，若V 值接近于 1 或0，则V 的变动对于积分结果的影响已相当微弱，可以 i i 略去不计；如果f 呈硬限幅特性，则此时积