智能技术课件——第七讲 人工神经网络模型.pptVIP

第七讲 人工神经网络模型 随着人工神经网络应用研究酌不断深入，新的神经网络 模型不断推出。现有的神经网络棋型已达近百种。在智 能控制领域中，应用最多的是以下几种基本模型和它们 的改进型，即前向多层感知器(BP网络)、HopfteN网络， 自组织神经网络，动态递归网络，联想记忆网络(BAM) 等．神经网络的基本理论主要涉及到稳定性、学习算 法、动态性能等几个方面。神经网络的特点： 非线性 分布处理 学习并行和自适应 适用于多变量系统 神经网络的研究内容 1）神经元模型 2）神经网络结构 3）神经网络学习方法 神经元模型 神经网络的模型分类 根据生物神经系统的不同组织层次和抽象层次的模拟（四种） 1）神经元层次模型 2）组合式模型 3）网络层次模型 4）神经系统层次模型 根据神经元的连接方式 1）前馈网络 2）反馈网络 3）相互结合型网络 4）混合型网络 神经网络的学习算法 有导师学习 无导师学习 神经网络的泛化能力 泛化的含义 在具有某一概率分布的样本中，随机地取一部分做为神经网络的训练样本。首先对这组样本进行神经网络训练最终得到神经网络输出的误差e1，然后再由全体样本中再随机地拿出另一组输入输出数据对已经训练好的神经网络进行校对，这时记神经网络的实际输出和期望输出之间的差为e2。那么定义|e1-e2|为这个神经网络的泛化能力。 前向神经网络模型 单一人工神经元 单层神经网络结构 多层神经网络结构 多层传播网络的学习算法 性能指标 网络的输出 第一层隐单元的输出 第r+1层隐单元输出 若r=L为输出层 若r≠L为隐含层 BP算法的流程 训练过程中的问题 权系数的初值 学习方式（增量型和累积型） 激励函数 学习速率 动态神经网络模型 前向传播网络－－静态非线性映射，缺乏丰富的动力学 行为 反馈神经网络： 1）系统有若干个稳定状态 2）系统的稳定状态可以通过改变连接 单元的权值而产生 定义： 神经网络从任一初始态X(0)开始运动，若存在某一有限 的时刻ts ，从ts 以后神经网络的状态不再发生变化，即X(ts +△t)= X(ts)， △t0，则称网络是稳定的。处于稳定时刻的网络状态叫稳定状态，又称定点吸引子。 动态网络模型：节点方程用微分方程或差分方程 静态网络模型：节点方程用非线性代数方程 常用模型： Hopfield网络、多层感知器网络、回归神经网络 带时滞的多层感知器网络