人工神经网络ANN方法简介.ppt

10 人工神经网络（ANN）方法简介; §10.1 从生物神经元到人工神经网络 ; 大脑与神经细胞、神经细胞与神经细胞构成了庞大天文数字量级的高度复杂的网络系统。也正是有了这样的复杂巨系统，大脑才能担负起人类认识世界和改造世界的任务。 “世界上最大的未开发疆域，是我们两耳之间的空间。”（美国汉诺威保险公司总裁比尔·奥伯莱恩）;① 人大脑平均只有3磅左右。只占身体重量比例的1/30； ② 使眼睛可以辨别1000万种细微的颜色； ③ 使肌肉(如果全部向同一个方向运动)产生25吨的拉力； ④ 是由100亿个脑细胞和10兆个神经交汇丛组成。整个大脑的神经网络足足有10英里长。; “你的大脑就像一个沉睡的巨人。” （英国的心理学家、教育家托尼·布赞） “如果我们迫使头脑开足1/4的马力，我们就会毫不费力地学会40种语言，把整个百科全书从头到尾背下来，还可以完成十几个大学的博士学位。”（前苏联学者伊凡） ——一个正常的大脑记忆容量有大约6亿本书的知识总量，相当于一部大型电脑储存量的120万倍 ——大脑使你从出生开始每一秒钟可存储1000条信息，直到老死为止 ——全世界的电话线路的运作只相当于大约一粒绿豆体积的脑细胞 ——即使世界上记忆力最好的人，其大脑的使用也没有达到其功能的1% 人类的知识与智慧，仍是“低度开发”！人的大脑是个无尽宝藏，可惜的是每个人终其一生，都忽略了如何有效地发挥它的“潜能”——潜意识中激发出来的能量。;2、 人工智能及其三个学派;人类智能的具体含义;人工智能;人工智能的3个主要流派;人工智能的符号主义流派;人工智能的联结主义流派;人工神经网络（Artificial Neural Network，ANN）从四个方面刻画人脑的基本特征： （1）、物理结构 模仿生物神经元的功能，构造人工神经元的联结网络 ;（2）、计算模拟 人脑神经元既有局部的计算和存储功能，又通过联结构成统一的系统，人脑的计算建立在该系统的大规模并行模拟处理基础之上。 ANN以具有局部计算能力的神经元为基础，同样实现信息的大规模并行处理。 （3）、存储与操作 大脑对信息的记忆是通过改变突触的??结强度来实现并分布存储。 ANN模拟信息的大规模分布存储。 （4）、训练 后天的训练使得人脑具有很强的自组织和自适应性。 ANN根据人工神经元网络的结构特性，使用不同的训练过程，自动从“实践”（即训练样本）中获取相关知识，并存储在系统中。;人工智能的行为主义流派;ANN是基于联结主义流派的人工智能;3、 人工神经网络概述;神经元的结构 树突从细胞体伸向其它神经元，神经元之间接受信号的联结点为突触。通过突触输入的信号起着兴奋/抑制作用。当细胞体接受的累加兴奋作用超过某阈值时，细胞进入兴奋状态，产生冲动，并由轴突输出。; 神经元系统的基本特征 神经元及其联结 神经元之间的联结强度决定信号传递的强弱 神经元之间的联结强度可以随训练而改变 信号分为兴奋型和抑制型 一个神经元接受的信号的累计效果决定该神经元的状态 每个神经元有一个阈值 ;ANN理论及其发展阶段;第二阶段 1969年，M. L. Minsky和S. Papert从理论上证明了当时单隐含层感知器网络模型无法解决的许多简单问题，包括最基本的“异或(XOR)”问题。使ANN理论的发展进入一个低谷； 1974年，Webos提出BP学习理论； S. Grossberg提出自适应共振理论（ART）。;人工神经网络的几种形式;有反馈前向网 从输出层到输入层存在反馈的前向网。 ;层内有联结的前向网 在无反馈前向网中同一层内存在神经元间的联结回路。 ;有向网 任意两个神经元间都可能存在有向联结。 网络处在动态中，直至达到某一平衡态、周期态或者混沌状态。; §10.2 感知器（Perceptron） ——人工神经网络的基本构件 ;感知器（Perceptron）：最早被设计并实现的人工神经网络。 W. McCulloch和W. Pitts总结生物神经元的基本生理特征，提出一种简单的数学模型与构造方法，建立了阈值加权和模型，简称M-P模型(“A Logical Calculus Immanent in Nervous Activity”, Bulletin of Mathematical Biophysics, 1943(5): 115~133）。 人工神经元模型是M-P模型的基础。;生物神经元的基本特征 神经元及其联结 神经元之间的联结强度决定信号传递的强弱 神经元之间的联结强度可以随训练而改变 信号分为兴奋型和抑制型 一个神经元接受的信号的累计效果决定该神经元的状态 每个神经元有一个阈值; 模拟神经元的首要目标：输入信号的加权和