人工神经网络artificialneuralnetworks-智能科学.pdf

智能科学 Intelligence Science 第三章 神经计算 Neural Computing 史忠植 中国科学院计算技术研究所 / 2012-03-08 1 目 录 1. 神经计算 2. 并行分布式理论框架 3. 交互与竞争神经网络 4. 误差反向传播神经网络 5. Hopfield神经网络 6. 自组织特征映射网络 7. 自适应共振理论 8. 脉冲耦合神经网络 2012-03-08 2 神经网络  一个神经网络是由简单处理元构成的规模宏大的 并行分布处理器。天然具有存储经验知识和使之 可用的特性。  神经网络从两个方面上模拟大脑： 神经网络获取的知识是从外界环境中学习得来 的。 内部神经元的连接强度，即突触权值，用于储 存获取的知识。 2012-03-08 3 发展历史  萌芽期 （20世纪40年代） 人工神经网络的研究最早可以追溯到人类开始 研究自己的智能的时期，到1949年止。 1943年，心理学家McCulloch和数学家Pitts 建立起了著名的阈值加权和模型，简称为M-P 模型。发表于数学生物物理学会刊 《Bulletin of Methematical Biophysics》 949年，心理学家D. O. Hebb提出神经元之 间突触联系是可变的假说——Hebb学习律。 2012-03-08 4 发展历史  第一高潮期 （1950~1968） 以Marvin Minsky ，Frank Rosenblatt ， Bernard Widrow等为代表人物，代表作是单 级感知器 （Perceptron ）。 可用电子线路模拟。 人们乐观地认为几乎已经找到了智能的关键。 许多部门都开始大批地投入此项研究，希望尽 快占领制高点。 2012-03-08 5 发展历史  反思期（1969~1982） M. L. Minsky和S. Papert， 《Perceptron》， MIT Press，1969年 异或”运算不可表示 二十世纪70年代和80年代早期的研究结果 2012-03-08 6 发展历史  第二高潮期（1983~1990） 1982年，J. Hopfield提出Hopfield 网络  用Lyapunov函数作为网络性能判定的能量函数， 建立ANN稳定性的判别依据  阐明了ANN与动力学的关系  用非线性动力学的方法来研究