第六章神经网络课题.pptVIP

第六章 人工神经网络 李伟生 信科大厦19楼 Telliws@cqupt.edu.cn 第6章??? 人工神经网络 概念 人工神经网络是指模拟人脑神经系统的结构和功能，运用大量的处理部件，由人工方式构造的网络系统。 神经网络理论突破了传统的、线性处理的数字电子计算机的局限，是一个非线形动力学系统，并以分布式存储和并行协同处理为特色，虽然单个神经元的结构和功能极其简单有限，但是大量的神经元构成的网络系统所实现的行为却是极其丰富多彩的。 兴盛期的代表人物： 1.1982年，加州大学的物理学家Hopfield提出了Hopfield网络模型，并用电路实现。 2.1985年，Rumelhart提出了BP算法。 3.Hinton等人提出了Boltzman机模型。 4.1988年，蔡少堂提出了细胞神经网络模型 。 目前国内外研究状况 1.?研究机构 美国DARPA计划、日本HFSP计划、法国尤里卡计划、德国欧洲防御计划、前苏联高技术发展计划 2.? 学会 86年4月，美国物理学会在Snowbirds召开了国际神经网络学术会议； 87年6月，IEEE在San Diego召开了国际神经网络学术会议，并成立了国际神经网络学会； 88年起，IEEE和国际神经网络学会每年召开一次国际会议； 我国自91年开始每两年召开一次学术会议。 3.?刊物 1990年3月，IEEE神经 网络会刊问世。 4.?应用范围 已经渗透到各个领域，智能控制、模式识别、计算机视觉、自适应滤波、信号处理、非线形优化、语音识别、知识处理、传感技术与机器人等等。神经网络代表一种新的主义—连接主义，解决诸如知识表达、推理学习、联想记忆、乃至复杂的社会现象，如混沌，社会演变的复杂系统的统一模型，它预示着一个新的工业。 1.????生物神经元 2.??? 人工神经元的形式化模型 3.????电子神经元 4.????人工神经网络模型 5.????人工神经网络的学习规则 6.????人工神经网络与AI的比较 本体：细胞体（细胞膜、质、核），对输入信号进行处理，相当于CPU。 树突：本体向外伸出的分支，多根，长1mm左右，本体的输入端。 轴突：本体向外伸出的最长的分支，即神经纤维，一根，长1cm—1m左右，通过轴突上的神经末梢将信号传给其它神经元，相当于本体的输出端。 突触：各神经元之间轴突和树突之间的接口，即神经末梢与树突相接触的交界面，每个细胞体大约有103—104个突触。突触有兴奋型和抑制型两种。 神经元结构 膜电位与神经元的兴奋 膜电位：细胞膜将细胞分为内外两部分，当外部电位为0时，称内部电位为膜电位。 静止膜电位：当没有输入信号时的膜电位成为静止膜电位，通常为-70mv左右。 兴奋状态：当外部有输入信号时，将使膜电位发生变化，倘若使膜电位升高，比静止膜电位高15mv以上，即超过-55mv（阈值），神经元被激活，内部电位急剧上升至100mv左右，并维持约1ms，然后急剧下降。相当输出一个100mv高1ms宽的脉冲，并沿轴突以100m/s的速度传至其它的神经元。 抑制状态：当外部输入信号使膜电位下降低于阈值电位时，神经元处于抑制状态，无脉冲输出。 “兴奋─抑制”状态满足“0─1”律 A/D转换：电脉冲到达各突触接口后，放出某种化学物质，该物质作用于各个和其相连的神经元的细胞膜，并使其膜电位发生变化，完成了将离散的脉冲信号转换为连续变化的电位信号。 不应期：神经元输出一个脉冲后，一段时间内对激励不响应，称之为不应期，一般为几ms。 时间加算功能：对于不同时间通过同一突触传入的信号具有时间的加算功能。 空间加算功能：对于同一时间通过不同突触的输入信号具有空间加算功能。 M-P模型 线形加权模型 输入条件 输出 阈值逻辑模型 其中：Ii?{-1,+1}，Y?{-1,+1}，Wi?[-1,+1] 例：用M-P模型实现二元Bool逻辑 例：用M-P模型实现三元Bool小项逻辑 神经元的延时作用 人工电子神经元 人工神经元网络的三种模型 1.神经网络节点的形式化描述 2.神经网络状态转移函数的类型 当神经元没有内部状态时，可令 yi=ui，h=f 。如图所示，常用的神经元状态转移函数有： 1）阶跃函数 如图（a）所示。 2)准线形函数 如图（b）所示。