Hopfield网络学习及其在最优化问题中的应用【DOC精选】.docVIP

Hopfield网络学习及其在最优化问题中的应用 金海和( （清华大学经济管理学院，北京 100084） 摘要 本文针对Hopfield神经网络（HNN）所存在的极小值问题及缺乏学习能力的问题，提出了一种学习算法。它是将决定约束条件权值大小的系数作为学习参数，在参数空间里使参数向着HNN能量上升最快的方向学习，使网络状态能够有效地从一旦陷入的极小值状态中逃脱出来。该算法分别被应用于10、20城市的旅行商问题（TSP），结果能够以很高的比率收敛于最优解。 关键词 Hopfield 神经网络 最速上升法 参数学习 最优化问题 1 引言 Hopfield等通过用连续值HNN求解TSP，开辟了运用神经网络求解最优化问题的新途径[1]。但存在着（1）不能学习、（2）产生大量极小值等问题。作为解决极小值问题的方法之一，Hinton等提出了Boltzmann机模型及其学习算法[2]，但因速度太慢，难以为现实所接受[3]。对于问题（2），笔者进行过深入的理论分析，并在数学上进行了证明[4]。针对问题（1）、（2），笔者提出了登山学习算法[5]，但该算法中，为了避免因学习使最小值发生位移，以学习后的解为初始解，使网络回到未学习的HNN状态空间里进行状态更新至平衡状态，显然增加了计算量。 TSP常被用作研究最优化问题的范例[6]，当运用HNN求解时，它的解依从于决定约束条件权值大