第八章-神经网络信号处理.pptVIP

8.3 反馈网络及其能量函数 反馈网络与线性IIR网络一样存在着稳定性问题，本节先介绍动态系统稳定性的基本概念和分析方法，然后讨论离散和连续型单层反馈网络的动态特性和网络权值设计、复合型反馈网络等问题，主要讨论Hopfield网络。 8.3.1 非线性动态系统的稳定性 在期望输出的模式设计成网络的稳定平衡态，存储在权值中，这两个吸引子都是孤立的点，称为不动吸引子。有些吸引子是同期循环的状态序列，称为极限环，犹如数字循环计数器的稳定循环状态。另外还有些更复杂的吸引子结构。向某个吸引子演化的所有初始状态称为这个吸引子的收敛域。 一个非线性动态系统是否存在吸引子，这些吸引子是否稳定， 这是首先要解决的问题。非线性动态系统用非线性微分方程或非线 性差分方程描述。而非线性方程的解不一定能容易求得。李雅普诺 夫稳定性理论提供了从方程本身来判断吸引子的存在和稳定的方 法。李雅普诺夫定理简述如下： 考虑非线性微分方程组： ，写成矢量 形式为 ，它的解是时间t的函数，且与 初始值有关，记 为 。当 时，有 ，称 为系统的平衡 态。所谓稳定性是考虑微分方程的解 是否趋向平衡态。 以孤立平衡点 附近的点 作为初始态，若系统的运动轨迹 仍在 附近，则称平衡态 是稳定的。严格的定义为：若 对每个实数 ，存在一实数 ，使得当初始态满足 时，系统运动轨迹满足 ，则称平衡态 在李雅普 诺夫意义下是稳定的。进一步，若 ,就称 是渐近 稳定的。 系统的平衡点 是渐近稳定的一个条件是：能找到一个X的连 续函数 ，使得 称 为李雅普诺夫函数。以下几点需要注意： (1)物理上的能量函数一般可作为李雅普诺夫函数，因此，李雅普诺夫函数也称为计算能量函数。一个物理系统总是在能量最低状态下是最稳定的。稳定的非线性动态系统也总是朝能量低的方向运动。实际上，作为能量函数，E可正可负，只要有下界且 即可。 (2)对给定的动态系统，其李雅谱诺夫函数不是唯一的。可以找到许多不同的李雅谱诺夫函数。 (3)若找不到系统的李雅谱诺夫函数，并不说明系统不稳定。 (4)还没有统一的找李雅谱诺夫函数的办法，一般是根据系统的物理意义或类似能量的概念写出李雅谱诺夫函数。 (5)对于离散时间非线性动态系统，用非线性差分方程描述，也有计算能量函数的定理：只要找到一个有下界函数 ,其增量 是非正的，即 则该函数就是计算能量函数，且说明该离散动态系统也朝着减小能 量的方向运动，最后趋于稳定平衡点，即有 。 8.3.2 离散型Hopfield单层反馈网络 离散型Hopfield单层反馈网络的结构如图8.29所示，由n个神经 元组成， 为输入， 为输出， 为阀值， 。时延表现在 图中变换函数的状态转换的时序。这种网络是离散时间、离散型变 换函数网络。 1.网络的差分方程描述 设第i个单元的净输入为 ，有 式中，k为时间变量，变换涵数取双极性阶跃函数，即 网络状态的转变有两种方式：异步方式和同步方式。 (1)异步方式。在某一时刻k只允许一个单元更新输出状态，其余单元保持不变，则有 (2)同步方式。在任何时刻，所有单元的状态都同时更新，则有 2.网络的能量函数 定义计算能量函数E为： 由于 或-1，且设权值 、阀值 和输入 都有界，则有 这意味着E有界。 3.网络的权值设计 考虑存储L个样本矢量 。注意到 用外积法设计权值矩阵W，并要置 ， 则 式中，是n阶单位矩阵，权值为 显然，所以用时序工作方式，网络是收敛、稳定的；用并行工作方 式，则要看样本矢量是否能使W为非负定的，若能，则网络是收 敛、稳定的。 8.3.3 连续型Hopfield单层反馈网络 连续型Hopfield网络与离散型Hopfield网络的基本原理是一致 的。但连续型网络的输入、输出是模拟量，网络采用并行方式，