神经网络概述.pptxVIP

神经网络概述第1页/共59页 2第一章 神经网络概述第二章 神经网络基础 第三章 前馈神经网络第四章 反馈神经网络 第五章 支持向量机第六章 自组织竞争神经网络 第七章 神经网络辨识与控制教学安排第2页/共59页 3第一章 神经网络概述§1.1智能的概念§1.2 神经网络的基本概念§1.3 人工神经网络研究的历史§1.4 神经网络研究的意义§1.5 人工神经网络的应用领域§1.6 人工神经网络与自动控制§1.7 小结参考书目第3页/共59页 4§1.1智能的概念智能是个体有目的的行为，合理的思维，以及有效的适应环境的综合能力。也可以说，智能是个体认识客观事物和运用知识解决问题的能力。1. 感知与认识客观事物、客观世界和自我的能力2. 通过学习取得经验与积累知识的能力3. 理解知识，运用知识和经验分析、解决问题的能力4. 联想、推理、判断、决策的能力5. 运用语言进行抽象、概括的能力6. 发现、发明、创造、创新的能力7. 实时、迅速、合理地应付复杂环境的能力8. 预测、洞察事物发展变化的能力第4页/共59页 5人工智能人工智能（Artificial Intelligence，简记为AI）最初在1956年被引入。它研究怎样让计算机模仿人脑从事推理、设计、思考、学习等思维活动，以解决和处理较复杂的问题。研究人工智能的目的 模拟人的智能，将人类从复杂的脑力劳动中解脱出来第5页/共59页 6人工神经网络从以下四个方面去模拟人的智能行为 1. 物理结构 人工神经元将模拟生物神经元的功能 2. 计算模拟 人脑的神经元有局部计算和存储的功能，通过连接构成一个系统。人工神经网络中也有大量有局部处理能力的神经元，也能够将信息进行大规模并行处理3.存储与操作 人脑和人工神经网络都是通过神经元的连接强度来实现记忆存储功能，同时为概括、类比、推广提供有力的支持4. 训练 同人脑一样，人工神经网络将根据自己的结构特性，使用不同的训练、学习过程，自动从实践中获得相关知识第6页/共59页 7§1.2 神经网络的基本概念什么是神经网络？由多个非常简单的处理单元彼此按某种方式相互连接而形成的计算系统，该系统是靠其状态对外部输入信息的动态响应来处理信息的。一种由许多简单的并行工作的处理单元组成的系统，其功能取决于网络的结构、连接强度以及其各单元的处理方式是一种旨在模仿人脑结构及其功能的信息处理系统第7页/共59页 8§1.2 神经网络的基本概念神经网络的优点神经网络的计算能力有以下优点：大规模并行分布式结构神经网络学习能力以及由此而来的泛化能力。泛化是指神经网络对不在训练（学习）集中的数据可以产生合理的输出第8页/共59页 9§1.2 神经网络的基本概念神经网络的性质和能力非线性 人工神经网络可以是线性的也可以是非线性的，一个由非线性神经元组成的神经网络自身是非线性的输入输出映射 每个样本由一个惟一的输入信号和相应期望响应组成。从一个训练集中随机选取一个样本给网络，网络就调整它的突触权值（自由参数），以最小化期望响应和由输入信号以适当的统计准则产生的实际响应之间的偏差第9页/共59页 10§1.2 神经网络的基本概念神经网络的性质和能力适应性 神经网络具有调整自身突触权值以适应外界变化的能力VLSI(超大规模集成)实现 神经网络的大规模并行性使它具有快速处理某些任务的潜在能力，适用于VLSI技术实现神经生物类比 神经网络是由对人脑的类比引发的，可以用神经生物学来作为解决复杂问题的新思路第10页/共59页 11神经网络的一般框架结构 图中每一个圆圈代表一个神经元（也称处理单元或节点node），每个节点之间通过相互连接形成一个网络拓扑。这个拓扑的模式称为神经网络的互联模式。 神经网络以外的部分（虚线方框以外的部分）统称为神经网络的环境。 第11页/共59页 12神经网络的分类从结构分类 前馈神经网络(Feedforward Neural Network) 反馈神经网络(Feedback Neural Network)从学习方式分类 有教师学习 无教师学习第12页/共59页 13有教师学习事先有一批正确的输入输出数据对，将输入数据加载到网络输入端后，把网络的实际响应输出与正确（期望的）输出相比较得到误差。根据误差的情况修正各连接权，使网络朝着正确响应的方向不断变化下去。直到实际响应的输出与期望的输出之差在允许范围之内，这种学习方法通称为误差修正算法。典型的有误差反向传播(Back Propagation, 简写为BP)算