第一章ANN基本介绍研究报告.pptVIP

第一章: ANN基本介绍 人脑与计算机信息处理能力的比较 记忆与联想能力 学习与认知能力 信息加工能力 信息综合能力 信息处理速度 人脑与计算机信息处理机制的比较 系统结构 信号形式 信息存储 信息处理机制 人工神经网络概述 生物神经网络 人类的大脑大约有1.4?1011个神经细胞，亦称为神经元。每个神经元有数以千计的通道同其它神经元广泛相互连接，形成复杂的生物神经网络。 人工神经网络 以数学和物理方法以及信息处理的角度对人脑神经网络进行抽象，并建立某种简化模型，就称为人工神经网络（Artificial Neural Network，缩写 ANN）。 神经网络建模特点： 非线性映照能力：神经网络能以任意精度逼近任何非线性连续函数。在建模过程中的许多问题正是具有高度的非线性。 并行分布处理方式：在神经网络中信息是分布储存和并行处理的，这使它具有很强的容错性和很快的处理速度。 自学习和自适应能力：神经网络在训练时，能从输入、输出的数据中提取出规律性的知识，记忆于网络的权值中，并具有泛化能力，即将这组权值应用于一般情形的能力。神经网络的学习也可以在线进行。 数据融合的能力：神经网络可以同时处理定量信息和定性信息，因此它可以利用传统的工程技术（数值运算）和人工智能技术（符号处理）。 多变量系统：神经网络的输入和输出变量的数目是任意的，对单变量系统与多变量系统提供了一种通用的描述方式，不必考虑各子系统间的解耦问题。 神经网络的基本特征 神经网络的基本功能 神经网络的基本功能 神经网络的基本功能 神经网络的基本功能 神经网络的基本功能 人工神经网络 Artificial Neural Networks 脑神经信息活动的特征 (1)巨量并行性。 (2)信息处理和存储单元结合在一起。 (3)自组织自学习功能。 人工神经网络概述 什么是人工神经网络？ T.Koholen的定义：“人工神经网络是由具有适应性的简单单元组成的广泛并行互连的网络，它的组织能够模拟生物神经系统对真实世界物体所作出的交互反应。” 利用机器模仿人类的智能是长期以来人们 认识自然、改造自然和认识自身的理想。 研究ANN目的： （1）探索和模拟人的感觉、思维和行为的规律， 设计具有人类智能的计算机系统。 （2）探讨人脑的智能活动，用物化了的智能来考 察和研究人脑智能的物质过程及其规律。 为什么要研究ANN 研究ANN方法 （1）生理结构的模拟： 用仿生学观点，探索人脑的生理结构，把对人脑的微观结构及其智能行为的研究结合起来即人工神经网络（Artificial Neural Netwroks，简称ANN）方法。 （2）宏观功能的模拟： 从人的思维活动和智能行为的心理学特性出发，利用计算机系统来对人脑智能进行宏观功能的模拟，即符号处理方法。 ANN的研究内容 理论研究： (1) 利用神经生理与认知科学研究大脑思维及智能机理。 (2) 利用神经科学基础理论的研究成果，用数理方法探 索智能水平更高的人工神经网络模型，深入研究网络 的算法和性能（如稳定性，收敛性，容错性，鲁棒性 等），开发新的网络数理理论。 应用研究： (1) 神经网络的软件模拟和硬件实现的研究。 (2) 神经网络在各个领域中应用的研究，这些领域主要 包括模式识别、信号处理、知识工程、专家系统、 优化组合、智能控制等。 第一高潮期（1950~1968） 1943年,美国心理学家W.McCulloch和数学家 W.Pitts在提出了一个简单的神经元模型，即MP模型。 1958年，Rosenblatt等研制出了感知机(Perceptron）。 1、神经元的活动表现为兴奋和抑制二值变化; 2、任何兴奋突触有由输入激励后，使神经元兴奋， 与神经元先前的动作与状态无关。 人们乐观地认为几乎已经找到了智能的关键。 许多部门都开始大批地投入此项研究，希望尽快占 领制高点。 低潮期（1969~1982） M. L. Minsky和S. Papert《Perceptron》 MIT Press，1969年 “异或”运算不可表示 （非线性问题）。 此时人工智能和专家系统正处于发展高潮，因 此很多人放弃了对神经网络的研究。 第二高潮期（1983~1990） 1982年，美国物理学家J.J.Hopfield提出 Hopfield模型，它是一个互联的非线性动力学网络 他解决问题的方法是一种反复运算的动态过程,这是 符号逻辑处理方法所不具备的性质. 1987年首届国际ANN大会在圣地亚哥召开，国 际A