基于离散型Hpfiel神经网络的联想记忆能力研究.docVIP

基于离散型Hopfield神经网络的联想记忆能力研宄 人工祌经网络是对人脑功能的简单抽象 和模拟，实质是一种数学模型。它通过大量的简单处 理单元互相连接成规模庞大的简单抽象和信息处理系 统，能够存储经验知识和联想回忆并使用已存储知识， 是目前智能信息处理技术发展的一个主流方向。它可 以解决许多传统方法难以解决或无法解决的问题，尤 其是那些与记忆、思维、认知、推理及联想相关的问 题。主要介绍了离散型Hopfield神经网络的发展历 程、工作原理、使用方法及其联想记忆功能，并通过 举例证明了离散型Hopfield神经网络的联想记忆能 力。 关键词：人工神经网络；Hopfield神经网络；耳关 想记忆 DOIDOI： 10.11907/rjdk.l61853 TP391 A (2016) 009014603 基金项目基金项目： 余洋(1994-)，男，湖北随 州人，四川理工学院自动化电子信息学院硕士研宄生， 研宄方向为智能控制；傅成华（1958-），男，四川富 顺人，四川理工学院自动化与电子信息学院教授、硕 士生导师，研究方向为先进控制与系统优化、神经网 络与非线性信息处理。 0引言 Hopfield于1982年提出了一种新型的神经网 络一_Hopfield网络模型。它采用了与层次型人工祌 经网络完全不一样的结构特征和学习方法来模拟生物 神经网络的记忆机理，首次使用“能量函数”的概念， 并且说明了此神经网络与动力学之间的关系，使得判 断神经网络在工作过程中的稳定性有了非常简便和可 靠的依据。该神经网络非常利于人们理解学习，也可 以比较方便地在集成电路中实现。Hopfield神经网络 根据网络输入输出的不同分为两种形式：离散型 Hopfield神经网络和连续型Hopfield神经网络，两种 形式的神经网络应用领域也各不相同。本文使用离散 型Hopfield祌经网络实现联想存储器设计。 1离散型Hopfield神经网络 离散型Hopfield神经网络是由n个神经元相互连 接而成的二值神经网络［12］，并且各神经元之间的连 接是双向的，连接强度用权值表示。网络的全互联结 构如图1所示。神经元的输出为离散值0(或-1)和1， 分别代表神经元的抑制和激活状态。由于神经网络的 时间离散特性，因而其被称为离散型Hopfield祌经网 络［3］。 这种连接方式使得离散型Hopfield神经网络中每 个神经元的输出均通过神经元之间的连接权值反馈到 同一层次的其它神经元，并作为该神经元的输入，从 而使各神经元之间相互制约，保证离散型Hopfield祌 经网络在没有外部输入的情况下也能进入稳定状态。 两个互联神经元之间的连接权值相同(wij=wji)， 每个神经元到其自身的连接权值为0，即wii=0 1.1处理单元模型 离散型Hopfield神经网络的单个神经元结构如图 2所示，单个神经元采用M-P模型进行信息处理，假 设神经网络有n个神经元，以xj表示神经元j的输出 (也称为神经元的状态)，wij表示神经元i与神经元j 之间的连接权值，門表示神经元j的阈值。 神经元j的净输入sj=I2ni=lxiwij-Q j (1) 神经元 j 的输出 xj=f (sj) =sgn (sj) =lsj〉O-lsj 彡0 (2) 1.2网络状态及运行规则 离散型Hopfield神经网络的状态由网络所有(n 个)神经元的状态集合构成，在任意一个给定的时刻 t,离散型Hopfield神经网络的状态表示为： X (t) = (xl，x2，…，xn ) (3) 离散型Hopfield神经网络是全互联反馈式的连接 结构，每个神经元都会接收到全部神经元的反馈信息， 故当网络中的各神经元状态改变时，整个网络状态也 随之变化。当网络中各神经元的输出状态都不再改变 时就表示网络达到稳定状态(即xj (t+1) =xj (t) =f (Sj (t)))o神经网络要达到稳定状态需要经过反 复更新，学习训练。 离散型Hopfield神经网络的工作过程就是网络状 态的动态演化过程，即从网络初始状态沿能量递减的 方向不断演化的过程，直到达到网络的稳定状态，这 时网络的稳定状态就是网络的输出。离散型Hopfield 神经网络工作时有以下运行步骤：①对网络进行初始 化；②从网络中随机选取一个神经元i;③按照式(1) 计算神经元i在t时刻的净输入si (t);④按照式(2) 计算神经元i在t+1时刻的输入xi (t+1),此时网络中 除i以外的其它神经元j的输出保持不变，即xj (t+1) =xj (t)其中 i 内；⑤按照式 xj (t+1) =xj (t) =f (sj (t))判断网络是否达到了稳定状态，如果未达到稳 定状态就转到②继续进行，如果网络达到稳定状态则