课件：神经网络概述.ppt

* * * * 联想记忆功能 由于神经网络具有分布存储信息和并行计算的性能，因此它具有对外界刺激信息和输入模式进行联想记忆的能力。联想记忆有两种基本形式：自联想记忆与异联想记忆。 自联想记忆 网络中预先存储（记忆)多种模式信息，当输入某个已存储模式的部分信息或带有噪省干扰的信息时，网络能通过动态联想过程回忆起该模式的全部信息。 异联想记忆 网络中预先存储了多个模式对，每一对模式均由两部分组成，当输入某个模式对的一部分时，即使输入信息是残缺的或迭加了噪声的，网络也能回忆起与其对应的另一部分。 神经网络通过预先存储信息和学习机制进行自适应训练，可以从不完整的信息和噪声干扰中恢复原始的完整信息，这一能力使其在图象复原、图像和语音处理、模式识别、分类等方面具有巨大的潜在应用价值。 * * * * * 著名学者 Prof. Yoshua Bengio 加拿大蒙特利尔大学 1991年获加拿大麦基尔大学博士学位 研究方向: 多层感知机、核方法、递归神经网络等Bengio教授是IEEE Transactions on Neural Networks、Journal of Machine Learning、Neural Computing Surveys的编委。值得一提的是Bengio教授在1994年的一篇著名文章中逆转了递归神经网络梯度学习算法的研究方向，极大地影响了该网络的研究。 * 著名学者 Prof. Frank L. Lewis美国德克萨斯大学 获美国乔治亚技术学院博士学位 研究方向: 反馈系统控制、神经网络和模糊智能控制等 现任德克萨斯大学自动化与机器人研究院副院长、IEEE Fellow、International Journal of Control、Neural Computing and Applications等期刊的编委。他共获得超过6百万美元的资助，发表174篇杂志论文，285篇会议论文，12本专著。 * 著名学者 Christopher M. Bishop微软剑桥研究院 研究方向: 模式识别，基于推理 的概率方法和学习 Bishop教授是美国电子学会关于应用神经计算中心的带头人，是剑桥大学达尔文学院的会士(Fellow)，不列颠计算机协会的会士(Fellow)和英国计算研究委员会成员。2004年当选英国皇家工程院会士(Fellow)。1995年曾出版著名专著《Neural Networks for Pattern Recognition》。 * 著名学者 Prof. Lei Xu (徐雷)香港中文大学 研究方向: 模式识别、神经网络、 统计学习等 现任香港中文大学讲座教授、IEEE Fellow、国际模式识别学会Fellow、欧洲科学院院士。已发表的学术论文被引用总量逾1300次，最大单篇被引用量达255(SCI)次。应邀在国际主要学术大会做大会报告/特邀报告/学术讲座40余次。曾任国际神经网络学会理事、亚太地区神经网络学会主席、IEEE神经网络学会计算金融学术委员会主任。 * 著名学者 刘德荣 教授 伊利诺大学芝加哥分校 1994年获美国圣母大学博士学位 研究方向: 非线性动态系统、 递归神经网络等。 刘教授是该校电机与计算机工程系和计算机科学系的终身正教授。2005年，他因在非线性动态系统和递归神经网络方面作出的贡献而被选为IEEE Fellow。自1992年起, 共发表40多篇国际学术杂志论文、90多篇国际会议论文，合作出版五本学术专著；担任多个国际期刊的编委。 * 著名学者 Prof. Jun Wang (王钧)香港中文大学 1991年 凯斯西储大学 博士 研究方向：递归神经网络和工程应用 现任香港中文大学自动化与计算机辅助工程系计算智能实验室主任。已发表120多篇期刊论文，多本书籍的11个章节的编写，SCI引用次数超过1300次， 现在担任多个著名期刊的编委，是亚太地区神经网络联合会会长。2007年王钧教授因为在递归神经网络及其在优化和工程方面的应用的突出成绩被评为IEEE Fellow。 * §1.4 神经网络研究的意义 神经网络的基本特征 神经网络的特征归纳为结构特征和能力特征。 1. 结构特征——并行处理、分布式存储与容错性 2. 能力特征——自学习、自组织与自适应性 * 神经网络的基本功能 联想记忆 由于神经网络具有分布存储信息和并行计算的性能，因此它具有对外界刺激信息和输入模式进行联想记忆的能力。这种能力是通过神经元之间的协同结构以及信息处理的