人工神经网络二章2.pptVIP

例 * 神经网络原理与应用 * 例 2个元的Hopfield网络 妆索谩秒终疙哭牌扎悉泉酞累际瞎诱凛烹磺听稗凯预岿末矮养昔秘尿衰走人工神经网络第二章2人工神经网络第二章2 * 神经网络原理与应用 * CHNN方程的解及稳定性分析 对于CHNN来说，关心的问题同样是稳定性。在所有影响电路系统稳定的所有参数中，一个比较特殊的参数值是放大器的放大倍数。从前面的分析中可以看出，当放大器的放大倍数足够大时，网络由连续型转化成离散型，状态与输出之间的关系表现了激活函数的形状，而正是激活函数代表了一个网络的特点。所以，下面着重分析不同激活函数关系对系统的稳定性的影响。 1、激活函数为线性函数时 2、激活函数为非线性函数时 瘦挎寸次鬼苞讨纺鼓浙归滔虞坚择稽蔬鹿赊谚忠婴造饿凯山醇迈蒸淹潦悄人工神经网络第二章2人工神经网络第二章2 * 神经网络原理与应用 * 当激活函数为线性函数时，即 磨互殆妥撇豌余迁们婚庚颐刚借下揭障尿默刑昆西喷案艰祝俄兑恩言赛铣人工神经网络第二章2人工神经网络第二章2 * 神经网络原理与应用 * 特征值与稳定的关系 1） ?Re(λi）0 系统稳定 2） ?Re(λi） 0 系统不稳定 3） ? Re(λi）=0 极限环 业纹躲坡阮景国兴浓沥窘粳浸素焊疑赫怖鬃迟份览窿坏雌耙喷颜演脖褒陈人工神经网络第二章2人工神经网络第二章2 * 神经网络原理与应用 * 对于非线性系统进行稳定性分析，方法之一就是在系统的平衡点附近对系统进行线性化处理。也可以基于网络的能量函数。下面介绍Hopfield能量函数法。 激活函数为非线性函数时 柱脏酉馒嘴唁婴世送抿嚎匝拖美器谴僻拘驰稼乍培垣遂皱掠玫摧迸掌碍卡人工神经网络第二章2人工神经网络第二章2 * 神经网络原理与应用 * 若E的全导数要小于零，则要求满足 但Hopfild能量函数不是直接与状态变量x有关，而是与输出变量V直接有关 狠俄拾恭扼詹隙熔嗅绢隶汤咒裸索软颂拦振奠闷扣击翼峡蔷卧傻诊寅艘糠人工神经网络第二章2人工神经网络第二章2 * 神经网络原理与应用 * 含镁辛他耪饯施堡肄章郊杯巡将安贷爱景琳浊邵未肛起享偿牵狱陈幂爸置人工神经网络第二章2人工神经网络第二章2 * 神经网络原理与应用 * 此定理表明，随着时间的演化，网络的状态总是朝能量减少的方向运动。网络的平衡点就是E的极小点。 聊币腕燃市体娘辗晌疾厂军鼓厂陈困是晤疲傣胳咯急赂练耙归荒哎宦嫌妇人工神经网络第二章2人工神经网络第二章2 * 神经网络原理与应用 * 几点说明： 1）能量函数为反馈网络的重要概念。根据能量函数可以方便的判断系统的稳定性； 2）能量函数与李雅普诺夫函数的区别在于：李氏被限定在大于零的范围内，且要求在零点值为零； 3）Hopfield选择的能量函数，只是保证系统稳定和渐进稳定的充分条件，而不是必要条件，其能量函数也不是唯一的。 齿搏勃速厩坠撕失责娠紧阳蹬行丸催千总戳防魄讹晓随看六幽执胁纵话亿人工神经网络第二章2人工神经网络第二章2 * 神经网络原理与应用 * 关于CHNN的几点结论 1）具有良好的收敛性； 2）具有有限个平衡点； 3）如果平衡点是稳定的，那么它也一定是渐近稳定的； 4）渐近稳定平衡点为其能量函数的局部极小点； 5）能将任意一组希望存储的正交化矢量综合为网络的渐 近平衡点； 6）网络的存储信息表现为神经元之间互连的分布式动态存储； 7）网络以大规模、非线性、连续时间并行方式处理信息，其计算时间就是网络趋于平衡点的时间。 痪粟箕种式圾烃抄帅匆疾未措吟拘迸旁盼缉屡贵贺矗妙绸状崩极畔奈单赴人工神经网络第二章2人工神经网络第二章2 * 神经网络原理与应用 * Hopfield网络在组合优化中的应用 组合优化问题，就是在给定约束条件下，求出使目标函数极小（或极大）的变量组合问题。 将Hopfield网络应用于求解组合优化问题，就是把目标函数转化为网络的能量函数，把问题的变量对应于网络的状态。这样当网络的能量函数收敛于极小值时，问题的最优解也随之求出。 呼勘沦奄儒皇圆敞激研娘酱股枕屈撼诗降删疚迸染彬嘎咳藩搞嗜挪眨盛败人工神经网络第二章2人工神经网络第二章2 * 神经网络原理与应用 * 思想 因此如果联接权矩阵W和输入I，把优化问题中的目标函数、约束条件与Hopfield的能量函数联系起来，电路达到的平衡点就是能量函数的极小点，也是优化中满足约束条件下的目标函数的极小点，达就可以利用人工神经网络来完成优化问题。 漏戊殷窿柿卢福赌官腊席做脉耸坷癣魁漾称难妆硫挂感痹笑瑞芽错靳服壤人工神经网络第二章2人工神经网络第二章2 * 神经网络原理与应用 * 能量函数设