神经网络理论基础 2-1 引言.pptVIP

2-1 引 言 人脑神经系统 　 人的思维是由脑完成的； 　 神经元是组成人脑的最基本单元，能够接受并处理信息；　 人脑是一个复杂的信息并行加工处理巨系统； 大脑的自组织、自学习性 　　 大脑的自组织、自学习性，来源于神经网络结构的可塑性，主要反映在神经元之间连接强度的可变性上； 大脑可通过自组织、自学习，不断适应外界环境的变化。　　　　　　 演示 人工神经网络是对人脑的模拟 控制领域常用神经网络 　　　　　　　 　 神经网络是人脑的抽象、简化和模拟，反映了人脑功能的若干基本特征： （1）网络的信息处理，由神经元间的相互作用实现，具有并行处理的特点； （2）知识与信息的存储，表现为神经元间分布式的物理联系； （3）网络的学习和识别，决定于神经元连接权系的动态演化过程； （4）具有联想记忆特性。 神经网络的数理模型 基本运算可归结为四种： 　　（1）积与和 　　（2）权值学习 （3） 阈值处理 （4）非线性函数处理 　　　　　　　 神经网络的工作方式 　　 两个阶段组成： 　 （1）学习期：神经元间的连接权值，可由学习规则进行调整，以使目标（准则）函数达最小 　　 （2）工作期：连接权值不变，由网络的输入，得到相应的输出 神经网络的不同分类 　 （1）按性能：连续型与离散型 确定型与随机型 静态与动态网络 　 （2）按连接方式：前馈（前向）型与反馈型 （3）按逼近特性：全局逼近型与局部逼近型 （4）按学习方式：有导师的学习（监督学习） 无导师的学习（无监督学习） 再励学习（强化学习） 　它们都是模拟人适应环境的学习过程的一种机器学习模型，因此，具有学习能力的系统，称： 学习系统（学习机） 有导师的学习（监督学习） 在学习过程中，网络根据实际输出与期望输出的比较，进行连接权系的调整，将期望输出称 导师信号 是评价学习的标准（见图）。 无导师的学习（无监督、或称自组织 ) 无导师信号提供给网络，网络能根据 　其特有的结构和学习 规则，进行连接权系 的调整，此时，网络 的学习评价标准隐含 于其内部（见图）。 再励学习（强化学习） 把学习看为试探评价过程： （1）学习机选择一动作作 用于环境； （2）环境的状态改变，并 产生再励信号re反馈至 学习机； （3）学习机依据再励信号 与环境当前的状态，再 选择下一动作作用于环 境，选择的原则是使受 到奖励的可能性增大 （见图）。 　　　　　　　 神经网络总的分为四类 　　 （1）前馈型 　　 （2）反馈型 　　 （3）自组织型 　　 （4）随机型 　　　　　　　神经网络发展的三个阶段 （1）20世纪40～60年代的发展初期 　　 （2） 20世纪70年代的研究低潮 　　 （3） 20世纪80年代，神经网络的理论研究取得了突破性进展 　　 多年来神经网络的研究，虽已取得了很多成果，但至今尚未建立起一套完整的理论体系 本章主要内容 1. 介绍模拟生物神经元的人工神经元模型 2. 控制中常用的前馈与反馈型网络的理论基础 阐述其中若干种网络的模型、学习算法、逼近非线 性函数的能力、泛化能力、收敛性等 * 人工神经网络或称连接机制 从微观结构与功能上对人脑神经系统的模拟而建立起来的一类模型； 具有模拟人的部分形象思维的能力，主要是非线性特性、学习能力和自适应性，是模拟人的智能的一条途径； 　　 由简单信息处理单元（神经元）互连组成的网络；