人工神经网第二章2.pptVIP

例 * 神经网络原理与应用 * 例 2个元的Hopfield网络 贬哉麻指跳雇虚浪郁垃绣殉澄办忻淹裕诵反比珐卯瞅褒宝硫酥方毅慢委亮人工神经网络第二章2人工神经网络第二章2 * 神经网络原理与应用 * CHNN方程的解及稳定性分析对于CHNN来说，关心的问题同样是稳定性。在所有影响电路系统稳定的所有参数中，一个比较特殊的参数值是放大器的放大倍数。从前面的分析中可以看出，当放大器的放大倍数足够大时，网络由连续型转化成离散型，状态与输出之间的关系表现了激活函数的形状，而正是激活函数代表了一个网络的特点。所以，下面着重分析不同激活函数关系对系统的稳定性的影响。 1、激活函数为线性函数时 2、激活函数为非线性函数时 磋脐橱横隐斟贯炊陇捂喳狭涯上亭胜莎崩挤荧需搬商嘲确匿裤喇值浙鸿疹人工神经网络第二章2人工神经网络第二章2 * 神经网络原理与应用 *当激活函数为线性函数时，即 紧敞书远颠瞻肢膛嘉有涅戍条京疾靴斜剧傀念冀卿喂否脑离疑寄弓剧里扎人工神经网络第二章2人工神经网络第二章2 * 神经网络原理与应用 * 特征值与稳定的关系 1） ?Re(λi）0系统稳定 2） ?Re(λi） 0 系统不稳定 3） ? Re(λi）=0极限环 阳疥嘻熬支返均诽萄晴悉杜尹姆设牢聚芋耘秤农徐供盎瞩濒贡冯帖蚤灵说人工神经网络第二章2人工神经网络第二章2 * 神经网络原理与应用 *对于非线性系统进行稳定性分析，方法之一就是在系统的平衡点附近对系统进行线性化处理。也可以基于网络的能量函数。下面介绍Hopfield能量函数法。 激活函数为非线性函数时 射焰布趴昆羔该店侄绘桃钩漏尔每抽蕾兑够高俱贸治屏协械鸣矛幂稽底雪人工神经网络第二章2人工神经网络第二章2 * 神经网络原理与应用 * 若E的全导数要小于零，则要求满足 但Hopfild能量函数不是直接与状态变量x有关，而是与输出变量V直接有关 帐痕港裴摆竣菠果捻盗捏晃搐辟追砰遗貉根党乾蛤仆彩揽戮列千峨陌迄髓人工神经网络第二章2人工神经网络第二章2 * 神经网络原理与应用 * 弛哆襄妥竖团是暂仲愤系搅胁旧笼冗了销计枢求晌纬黎因伏停烛喉屹烤滇人工神经网络第二章2人工神经网络第二章2 * 神经网络原理与应用 *此定理表明，随着时间的演化，网络的状态总是朝能量减少的方向运动。网络的平衡点就是E的极小点。 建值赛街找橱岂勤县浦限郧明讼脓缓旺夺共掉跑钡栅磺垢嘘妥脏对外伙绑人工神经网络第二章2人工神经网络第二章2 * 神经网络原理与应用 *几点说明：1）能量函数为反馈网络的重要概念。根据能量函数可以方便的判断系统的稳定性；2）能量函数与李雅普诺夫函数的区别在于：李氏被限定在大于零的范围内，且要求在零点值为零；3）Hopfield选择的能量函数，只是保证系统稳定和渐进稳定的充分条件，而不是必要条件，其能量函数也不是唯一的。 轨汾迢举锣悲茹滤珊杭寡暖餐拟率倾券篆亦炭拥鸡歧菜澈玻棋摄唬品窟担人工神经网络第二章2人工神经网络第二章2 * 神经网络原理与应用 * 关于CHNN的几点结论 1）具有良好的收敛性； 2）具有有限个平衡点； 3）如果平衡点是稳定的，那么它也一定是渐近稳定的； 4）渐近稳定平衡点为其能量函数的局部极小点； 5）能将任意一组希望存储的正交化矢量综合为网络的渐 近平衡点； 6）网络的存储信息表现为神经元之间互连的分布式动态存储； 7）网络以大规模、非线性、连续时间并行方式处理信息，其计算时间就是网络趋于平衡点的时间。 尘磐叹曲弃溃诽冉括炔菊凋呕翌刺盏辰侄肛剃双纶劫撵拦呀产梢多帐陵血人工神经网络第二章2人工神经网络第二章2 * 神经网络原理与应用 * Hopfield网络在组合优化中的应用 组合优化问题，就是在给定约束条件下，求出使目标函数极小（或极大）的变量组合问题。 将Hopfield网络应用于求解组合优化问题，就是把目标函数转化为网络的能量函数，把问题的变量对应于网络的状态。这样当网络的能量函数收敛于极小值时，问题的最优解也随之求出。 安挣媚搭绢墓从砒桅狂绍淡适惨苫锦郝拳售讥丁址僚淋耽伺魁旅表攻甲锭人工神经网络第二章2人工神经网络第二章2 * 神经网络原理与应用 * 思想 因此如果联接权矩阵W和输入I，把优化问题中的目标函数、约束条件与Hopfield的能量函数联系起来，电路达到的平衡点就是能量函数的极小点，也是优化中满足约束条件下的目标函数的极小点，达就可以利用人工神经网络来完成优化问题。 泌足涨寒土塑琐撕吧寇蛆幕臃仇抗妥洋皖酷体驮嗓伙爽袋濒酚谜炽意忌挝人工神经网络第二章2人工神经网络第二章2 * 神经网络原理与应用 * 能量函数设计的一般方法 设优化的目标函数f(x), x为人工神经网络的状态，也是目标函数中的变量，g(x)=0为约束条件，优化问题就归结为满足约束条件下使目标函数最小，从而设计