基于离散型Hopfield神经网络联想记忆能力研究 .doc

基于离散型Hopfield神经网络的联想记忆能力研究 ?? 　　摘要：人工神经网络是对人脑功能的简单抽象和模拟，实质是一种数学模型。它通过大量的简单处理单元互相连接成规模庞大的简单抽象和信息处理系统，能够存储经验知识和联想回忆并使用已存储知识，是目前智能信息处理技术发展的一个主流方向。它可以解决许多传统方法难以解决或无法解决的问题，尤其是那些与记忆、思维、认知、推理及联想相关的问题。主要介绍了离散型Hopfield 神经网络的发展历程、工作原理、使用方法及其联想记忆功能，并通过举例证明了离散型Hopfield神经网络的联想记忆能力 关键词：人工神经网络；Hopfield神经网络；联想记忆 DOIDOI：10.11907/rjdk.161853 中图分类号：TP391 文献标识码：A文章编号文章编号2016）009014603 基金项目基金项目： 作者简介作者简介：余洋（1994-），男，湖北随州人，四川理工学院自动化电子信息学院硕士研究生，研究方向为智能控制；傅成华（1958-），男，四川富顺人，四川理工学院自动化与电子信息学院教授、硕士生导师，研究方向为先进控制与系统优化、神经网络与非线性信息处理 0引言 Hopfield于1982年提出了一种新型的神经网络――Hopfield网络模型。它采用了与层次型人工神经网络完全不一样的结构特征和学习方法来模拟生物神经网络的记忆机理，首次使用“能量函数”的概念，并且说明了此神经网络与动力学之间的关系，使得判断神经网络在工作过程中的稳定性有了非常简便和可靠的依据。该神经网络非常利于人们理解学习，也可以比较方便地在集成电路中实现。Hopfield神经网络根据网络输入输出的不同分为两种形式：离散型Hopfield神经网络和连续型Hopfield神经网络，两种形式的神经网络应用领域也各不相同。本文使用离散型Hopfield神经网络实现联想存储器设计 1离散型Hopfield神经网络 离散型Hopfield神经网络是由n个神经元相互连接而成的二值神经网络[12]，并且各神经元之间的连接是双向的，连接强度用权值表示。网络的全互联结构如图1所示。神经元的输出为离散值0（或-1）和1，分别代表神经元的抑制和激活状态。由于神经网络的时间离散特性，因而其被称为离散型Hopfield神经网络[3] 这种连接方式使得离散型Hopfield神经网络中每个神经元的输出均通过神经元之间的连接权值反馈到同一层次的其它神经元，并作为该神经元的输入，从而使各神经元之间相互制约，保证离散型Hopfield神经网络在没有外部输入的情况下也能进入稳定状态 两个互联神经元之间的连接权值相同（wij=wji），每个神经元到其自身的连接权值为0，即wii =0 1.1处理单元模型 离散型Hopfield神经网络的单个神经元结构如图2所示，单个神经元采用M-P模型进行信息处理，假设神经网络有n个神经元，以xj表示神经元j的输出（也称为神经元的状态），wij表示神经元i与神经元j之间的连接权值，θj表示神经元j的阈值 神经元j的净输入sj=∑ni=1xiwij-θj（1） 神经元j的输出 xj=f（sj）=sgn（sj）=1sj0-1sj≤0（2） 1.2网络状态及运行规则 离散型Hopfield神经网络的状态由网络所有（n个）神经元的状态集合构成，在任意一个给定的时刻t，离散型Hopfield神经网络的状态表示为： X（t）=（x1 ，x2 ，…，xn ）（3） 离散型Hopfield神经网络是全互联反馈式的连接结构，每个神经元都会接收到全部神经元的反馈信息，故当网络中的各神经元状态改变时，整个网络状态也随之变化。当网络中各神经元的输出状态都不再改变时就表示网络达到稳定状态（即xj （t+1）=xj （t）=f（sj （t）））。神经网络要达到稳定状态需要经过反复更新，学习训练 离散型Hopfield神经网络的工作过程就是网络状态的动态演化过程，即从网络初始状态沿能量递减的方向不断演化的过程，直到达到网络的稳定状态，这时网络的稳定状态就是网络的输出。离散型Hopfield神经网络工作时有以下运行步骤：①对网络进行初始化；②从网络中随机选取一个神经元i；③按照式（1）计算神经元i在t时刻的净输入si （t）；④按照式（2）计算神经元i在t+1时刻的输入xi（t+1），此时网络中除i以外的其它神经元j的输出保持不变，即xj（t+1）=xj（t）其中i ≠j；⑤按照式xj（t+1）=xj（t）=f（sj（t））判断网络是否达到了稳定状态，如果未达到稳定状态就转到②继续进行，如果网络达到稳定状态则网络的工作过程终止