神经网络基本理论d讲课资料.pptVIP

设网络的基宽向量为： 为节点的基宽度参数，且为大于零的数。网络的权向量为： k时刻网络的输出为： 设理想输出为y(k)，则性能指标函数为： 根据梯度下降法，输出权、节点中心及节点基宽参数的迭代算法如下： 阵(即为对象的输出对控制输入的灵敏度信息)算法为： 其中取 。 其中, 为学习速率， 为动量因子。 RBF网络逼近仿真实例 使用RBF网络逼近下列对象： RBF网络逼近程序见chap7_3.m。 对角回归型神经网络（DRNN：Diagonal Recurrent Neural Network）是具有反馈的动态神经网络，该网络能够更直接更生动地反映系统的动态特性，它在BP网络基本结构的基础上，通过存储内部状态使其具备映射动态特征的功能，从而使系统具有适应时变特性的能力，DRNN网络代表了神经网络建模和控制的方向。 回归神经网络 DRNN网络结构 DRNN网络是一种三层前向网络，其隐含层为回归层。正向传播是输入信号从输入层经隐层传向输出层，若输出层得到了期望的输出，则学习算法结束；否则，转至反向传播。反向传播就是将误差信号（理想输出与实际输出之差）按联接通路反向计算，由梯度下降法调整各层神经元的权值和阈值，使误差信号减小。 DRNN网络结构如图7-18所示。 图7-18 DRNN神经网络结构 在该网络中, 设 为网络输入向量, 为输入层第 i个神经元的输入，网络回归层第 j 个神经元的输出为 , 为第 个回归神经元输入总和, 为S函数， 为 DRNN网络的输出。 和 为网络回归层和输出层的权值向量, 为网络输入层的权值向量。 其中， 为连接从神经元 到神经元 的当前权值， 和 为神经元的激活水平。 Hebb学习规则是一种无教师的学习方法，它只根据神经元连接间的激活水平改变权值，因此，这种方法又称为相关学习或并联学习。 神经网络学习算法 2 Delta（δ）学习规则 假设误差准则函数为： 其中， 代表期望的输出（教师信号）； 为网络的实际输出， ； 为网络所有权值组成的向量： 为输入模式： 神经网络学习算法 其中训练样本数为 。 神经网络学习的目的是通过调整权值W，使误差准则函数最小。 权值的调整采用梯度下降法来实现，其基本思想是沿着E的负梯度方向不断修正W值，直到E达到最小。数学表达式为： 神经网络学习算法 其中 令 ，则 W的修正规则为 上式称为δ学习规则，又称误差修正规则。 神经网络学习算法 1. 神经网络特征 神经网络具有以下几个特征： （1）能逼近任意非线性函数； （2）信息的并行分布式处理与存储； （3）可以多输入、多输出； （4）便于用超大规模集成电路（VISI）或光学集成电路系统实现，或用现有的计算机技术实现； （5）能进行学习，以适应环境的变化。 神经网络特征及要素 2 神经网络要素 决定神经网络模型性能的三大要素为： （1）神经元（信息处理单元）的特性； （2）神经元之间相互连接的形式—拓扑结构； （3）为适应环境而改善性能的学习规则。 神经网络特征及要素 神经网络控制的研究领域 （1） 基于神经网络的系统辨识 ① 将神经网络作为被辨识系统的模型，可在已知常规模型结构的情况下，估计模型的参数。 ② 利用神经网络的线性、非线性特性，可建立线性、非线性系统的静态、动态、逆动态及预测模型，实现非线性系统的建模和辨识。 (2) 神经网络控制器 神经网络作为实时控制系统的控制器，对不确定、不确知系统及扰动进行有效的控制，使控制系统达到所要求的动态、静态特性。 (3) 神经网络与其他算法相结合 将神经网络与专家系统、模糊逻辑、遗传算法等相结合，可设计新型智能控制系统。 神经网络控制的研究领域 (4) 优化计算 在常规的控制系统中，常遇到求解约束优化问题，神经网络为这类问题的解决提供了有效的途径。 目前，神经网络控制已经在多种控制结构中得到应用，如PID控制、模型参考自适应控制、前馈反馈控制、内模控制、预测控制、模糊控制等。 神经网络控制的研究领域 多层前向BP神经网