神经网络概述课件.ppt

神经网络概述; 第一章 神经网络概述 第二章 神经网络基础 第三章 前馈神经网络 第四章 反馈神经网络 第五章 支持向量机 第六章 自组织竞争神经网络 第七章 神经网络辨识与控制;第一章 神经网络概述;§1.1智能的概念;人工智能;人工神经网络从以下四个方面去模拟人的智能行为 ;§1.2 神经网络的基本概念;§1.2 神经网络的基本概念;§1.2 神经网络的基本概念;§1.2 神经网络的基本概念;神经网络的一般框架结构;神经网络的分类;有教师学习;无教师学习;§1.3 人工神经网络的研究历史;启蒙时期;1949年，心理学家赫布（Hebb）在《行为构成》（Organization of Behavior）一书中提出了连接权训练算法，即Hebb算法。 1957年，罗森布兰特（Rosenblatt）提出了感知器（Perception）的概念，试图模拟人脑的感知学习能力。 1962年，韦德罗（Widrow）和胡佛（Hoff）提出了自适应线性单元（Adaline），这是一个连续取值的线性网络。;1969年，人工神经网络的创始人之一明斯基（Minsky）和佩珀特（Papert）发表了《感知器》一书，对感知器的能力表示了怀疑态度，使神经网络的研究受到了影响，神经网络的研究从此走向低谷。;低潮时期;复兴时期; Hopfield模型的动作原理是： 只要由神经元兴奋的算法和神经元之间结合强度 所决定的神经网络的状态在适当给定的兴奋模式 下尚未达到稳定，那么该状态就会一直变化下 去，直到预先定义的一个必定减小的能量函数达 到极小值时，状态才达到稳定而不再变化。 ;新时期研究热点问题;实际应用 图象处理(Image Processing) 人脸识别(Face Recognition) 语音信号处理(Voice Processing) 时间序列分析(Time Series Analysis) 机器人控制(Robot Control)等;2006年有42项研究课题 2005年有40项研究课题 2004年有32项研究课题 2003年有26项研究课题 2002年有26项研究课题 2001年有18项研究课题 2000年有20项研究课题 1999年有22项研究课题;1988年，《Neural Networks》创刊 1990年，《IEEE Transactions on Neural Networks》创刊 ;IEEE Trans. on Neural Networks;Neural Networks;著名学者;著名学者;著名学者;著名学者;著名学者;著名学者;著名学者;著名学者;著名学者;§1.4 神经网络研究的意义;神经网络的基???功能;自联想记忆 网络中预先存储（记忆）多种模式信息，当输入某个已存储模式的部分信息或带有噪声干扰的信息时，网络能通过动态联想过程回忆起该模式的全部信息。;异联想记忆 网络中预先存储了多个模式对，每一对模式均由两部分组成，当输入某个模式对的一部分时，即使输入信息是残缺的或迭加了噪声，网络也能回忆起与其对应的另一部分。;神经网络的基本功能;神经网络的基本功能;神经网络的基本功能;神经网络的基本功能;神经网络的基本功能;§1.5 人工神经网络的应用领域;数据压缩 神经网络可以对待传送（或待存储）的数据提取模式特征，只将该特征传出（或存储），接收（或使用）时再将其转换为原始模式。;工程领域;工程领域;医学领域;经济学领域;§1.6 人工神经网络与自动控制;神经网络的应用已经渗透到自动化控制领域的各个方面，包括系统辨识、系统控制、优化算法以及控制系统的故障诊断与容错控制等。 系统辨识 传统的辨识方法，对于一般的非线性系统的辨识是很困难的，而神经网络却为此提供了一个有力的工具。与传统的基于算法的辨识方法相比，神经网络系统辨识具有如下特点： (1) 由于神经网络可以任意精度逼近非线性函数，故它可以为非线性系统的辨识提供一个通用的模式。; (2) 神经网络系统辨识是非算法式的，神经网络本身就是辨识模型，其可调参数反映在网络内部的连接权上。不需要建立以实际系统数学模型为基础的辨识格式，故可以省去辨识前对系统建模这一步骤。 (3) 神经网络作为实际系统的辨识模型，实际上也是系统的一个物理实现，可应用于在线控制。;神经控制器 控制器在实施控制系统中起着大脑的作用神经网络具有自学习和自适应的等智能特点，非常适合做控制器。对于复杂的非线性系统，神经控制器所能达到的控制效果往往明显好于常规控制器。 故障诊断与容错控制 神经网络故障诊断与容错控制有两种途径：一种是在传统的方法中使用神经网络；另一种是