神经网络理论基础.ppt

7/19/2023中南大学智能所1 7/19/2023中南大学智能所2神经网络理论基础人脑人的思维由脑完成 人脑约由10^11～10^12个神经元组成，每个神经元约与10^4～10^5个神经元联接，能接受并处理信息。因此，人脑是复杂的信息并行加工处理巨系统。人脑 可通过自组织、自学习，不断适应外界环境的变化。其自组织、自学习性来源于神经网络结构的可塑性，主要反映在神经元之间联接强度的可变性上。 7/19/2023中南大学智能所3人工神经网络人工神经网络 是从微观结构与功能上模拟人脑神经系统而建立的一类模型，是模拟人的智能的一条途径。人工神经网络 信息处理由人工神经元间的相互作用来实现，由联接权来传递，具有学习能力、自适应性、联接强度的可变性。 7/19/2023中南大学智能所4神经网络的分类 神经网络的不同分类： 1. 按性能分：连续型与离散型；确定型与随机型； 静态与动态网络 2. 按联接方式分：前馈型与反馈型 3.按逼近特性分：全局逼近型与局部逼近型 4.按学习方式分：有导师的学习；无导师的学习； 再励学习三种 从总的方面讲，一般将神经网络分为： 前馈、反馈、 自组织与随机型四种 7/19/2023中南大学智能所5本章的主要内容1. 介绍模拟生物神经元的人工神经元模型2. 阐述控制中常用的前馈型与反馈型网络的理论基础 阐述其中若干种网络的模型、学习算法、逼近非线性函数的能力、泛化能力、收敛性等 7/19/2023中南大学智能所6神经网络理论基础引言生物神经元与人工神经元模型感知器多层前馈网络与BP学习算法自适应线性神经元径向基函数神经网络小脑模型神经网络 PID神经网络全递归型神经网络局部递归型神经网络连续型Hopfeld网络小结 7/19/2023中南大学智能所72-1 引 言 人脑神经系统 　 人的思维是由脑完成的； 　 神经元是组成人脑的最基本单元，能够接受并处理信息；　 人脑是一个复杂的信息并行加工处理巨系统； 大脑的自组织、自学习性　　 大脑的自组织、自学习性，来源于神经网络结构的可塑性，主要反映在神经元之间连接强度的可变性上； 大脑可通过自组织、自学习，不断适应外界环境的变化。　　　　　　 7/19/2023中南大学智能所8 人工神经网络或称连接机制 从微观结构与功能上对人脑神经系统的模拟而建立起来的一类模型； 具有模拟人的部分形象思维的能力，主要是非线性特性、学习能力和自适应性，是模拟人的智能的一条途径；　　 由简单信息处理单元（神经元）互连组成的网络；　　 能接受、处理信息，信息处理由神经元间的相互作用来实现，通过把问题表达成神经元间的连接权来处理。　人工神经网络是对人脑的模拟 7/19/2023中南大学智能所9　 神经网络是人脑的抽象、简化和模拟，反映了人脑功能的若干基本特征： （1）网络的信息处理，由神经元间的相互作用实现，具有并行处理的特点； （2）知识与信息的存储，表现为神经元间分布式的物理联系； （3）网络的学习和识别，决定于神经元连接权系的动态演化过程； （4）具有联想记忆特性。 7/19/2023中南大学智能所10 神经网络的数理模型 基本运算可归结为四种：　　（1）积与和　　（2）权值学习 （3） 阈值处理 （4）非线性函数处理　　　　　　　 神经网络的工作方式　　 两个阶段组成： （1）学习期：神经元间的连接权值，可由学习规则进行调整，以使目标（准则）函数达最小　 （2）工作期：连接权值不变，由网络的输入，得到相应的输出 7/19/2023中南大学智能所11神经网络的不同分类　 （1）按性能：连续型与离散型 确定型与随机型 静态与动态网络 　 （2）按连接方式：前馈（前向）型与反馈型 （3）按逼近特性：全局逼近型与局部逼近型 （4）按学习方式：有导师的学习（监督学习） 无导师的学习（无监督学习） 再励学习（强化学习）　它们都是模拟人适应环境的学