第十一章 神经网络的应用 智能系统课件.pptVIP

第十一章 神经网络的应用 11.1 BP网络结构、参数及训练方法的设计与选择 11.2 神经网络在电机非线性补偿中的设计与实现 11.1 BP网络结构、参数及训练方法的设计与选择 一般情况下，一个BP网络的设计应当考虑以下几个方面： 1）网络结构，包括网络层数、每层的节点数及其激活函数 的类型； 2）训练前初始参数的选取，包括：①初始权值②（初始） 学习速率③（自适应时）递增（减）因子的选取④最大训练 次数； 3）权值的训练方法； 4）各种参数的先后调节（选取）次序； 5）训练程序的编写； 6）网络的最后选定（训练过程中不同参数情况下的性能对 比研究）。 11.1.1 BP网络的设计 1) 网络结构 (1) 输入／输出节点 一般情况下，输入／输出节点的设计是需要有关于网络实现 任务的专业方面的知识。 (2) 层数 从实用的角度出发，除有特殊的要求，对于一般的应用情 况，采用具有一个隐含层的BP网络就能够达到目的。 (3) 每层激活函数 隐含层中一般采用S型的激活函数．输出层的激活函数可以 采用线性或S型。 2) 各个初始参数的取值 设计实现模糊控制规则为的模糊神经网络控制器，此处我们 定义取整函数int(x)为不大于x的最大整数。 11.1.2 采用自适应学习速率与固定学习速率的比较 11.1.3改进算法的性能比较 11.2 神经网络在电机非线性补偿中的设计与实现 11.2.1 问题的提出 11.2.2 伺服电机神经网络仿真器的设计 11.2.3神经网络补偿器的设计 11.2.4神经网络控制系统 11.2.5实验测试结果 * (1) 输入/输出数据对的确定 a）网络由两个输入变量e（误差）和ec（误差的变化）构成输入向量P = [e; ec] b）期望目标 输入和输出向量为： P =[-2 –1 0 1 2 –2 –1 0 1 2 –2 –1 0 1 2 –2 –1 0 1 2 –2 –1 0 1 2; -2 –2 –2 –2 –2 –1 –1 –1 –1 –1 0 0 0 0 0 1 1 1 1 1 2 2 2 2 2]; T = [-2 –2 –1 –1 0 –2 –1 –1 0 0 –1 –1 0 0 1 –1 0 0 1 1 0 0 1 1 2]; (2) 网络的结构 采用2 - S1 - 1的网络结构：在隐含层采用S型激活函数，输出层采用线性激活函数，隐含层中神经元的个数S1待定。 (3) 隐含层节点数?S1的确定 为了能够通过对网络的训练来确定S1值，还必须在训练前确定各个初始参数取值。 表11.1 取lr = 0.020时的网络训练记录 2000次后开始振荡,4000次后开始发散 266.2200 10000 0.2633 9 7800次后出现毛刺现象,但不影响收敛趋势 264.1300 10000 0.0826 8 有收敛趋势 263.6400 10000 0.0412 7 有收敛趋势 272.4300 10000 0.6550 6 误差过程纪录 时间(秒) 训练次数 误差平方和 S1 由表1.11 可以看出训练效果不好。推测是lr取值过大所致，因而使得系统稳定性不好,故减小lr的取值，从新获得训练结果见表11.2。 表11.2 取lr = 0.015时的网络训练记录 下降很快,但初始误差非常大,且开始有峰 48.2200 1761 0.0010 15 很快的平滑下降 125.3400 4663 0.0010 12 1800次后出现毛刺,有下降趋势 267.6500 10000 0.1169 11 明显较快平滑下降曲线 274.1900 10000 0.0235 10 平滑快速下降 189.3900 7131 0.0010 9 快速下降,曲线平滑 261.5000 9182 0.0010 8 下降趋势明显,曲线平滑 263.9700 10000 0.0968 7 开始明显下降,但5500次后有小毛刺 267.3200 10000 0.5800 6 500-800间有毛刺 268.1500 10000 1.0821 5 平滑曲线,有向下收敛趋势 276.0600 10000 0.7696 4 误差纪录过程 时间(秒) 训练次数 误差平方和 S1 根据S1选择在能够解决问题的前提下适当加一点余量以加快误差下降速度的原则，根据表1和表2所示的具体情况，选取S1 = 9。 3) 初始权值的选取 一般取初始权值在(-1,1)之间的随机数。威得罗等人提出一 仅需要使用在第一隐含层的初始值的选取上，后面层的初始值仍然采用随机取数。 种选定初始权值的策略：选择权值的量级为 ，其方法 确定初始权值如下： [W10,B10]=nwt