一种基于遗传算法的小波神经网络的学习算法-%27--.pdfVIP

第28卷增刊 信息与控制 V01．28，Supplement and 1999年8月 InformationControl Aug．，1999 一种基于遗传算法的小波神经网络的学习算法‘ 吕 晴 叶吴王桂增 (中国科学院自动化所模式识爿匿索重点实It室) (情华大学自动化蓉) ■翼本文挺出两十算法分别用于确定小波网络中的时移和尺度因子．这两类参敷嵌定了 舟络对未知映射的逼近能力．首先根据撵本致据在各维上的大致分布．提出了■定时移因子的算 珐PTAj其次，在时移园子确定的情形下，提出了男～算法ESA以求解两培的尺度因子．基于 PTA和ESA这两种算法，给出一个新的小被眄络学习算j岳——ELA．最后将ELA算法与量逮下 降法的仿真结果进行了比较． 关键调小波神经舟缮，遗传算法，小波分析．小波变抉，最逮下降法 1引言 小渡分析是近年来兴起的一种信号分析工具，将小渡分析与神经网络结合形成的小波网 络(WaveletNetwork)受到了人们的重视．小波函数构成L|空同中的一组标架．从理论上，小 波神经网络可以任意精度逼近口空间中的映射．它在函数逼近、模式识别、图象压缩、过程辨 识等方面得到了广瑟的应用．与多层前向网络相比。小波网络的学习算法具有更稳定的性能， 能收敛到全局最优点}小渡网络比径向基函数网络(RBF)更是活，前者的尺度因子可以根据误 差进行修正，以使网络达到最好的性能，RBF网络的基函数的尺度因子常常是固定的。若选择 不当，将达不到顼期的学习效果． 为确定小波神经网络的结构，大多数学习算法采用最速下降法，对于搜索空间规则的问题 可以考虑这种方法．但对于复杂问题，该算法易落入局部极值点，且收敛速度慢．在我们的算法 中，利用样本数据确定好时移因子后，需要找出网络中尺度因子的全局最优解．遗传算法是一 种全局优化算法，简单通用，鲁棒性强，不要求目标函数的梯度信息．本文就将尺度因子的优化 问题转化成易于用遗传算法处理的形式． 2小波神经网络 小波神经网络采用三层结构t第一层是辕入信号，第二层是小波函数处理单元，最后是输 出节点．下面只讨论多输入单输出模型，多输入多输出模型易由前者得到． 给定一组样本数据，毋=((曲，舶)}￡I，，希望能用小波网络来学习，以刻画未知映射，．这里 的多维小波函数具有如下形式： u J Wl(z)=g(diag(sD(z一“))=IT粤k(s“(毛一“)) iw| 既(％(zr一“))为一维小波函数． ·本文得到目索自然科学基金和863／C1MS应用基础研究基垒的资助 信息与控捌 28寿 设经过学习后的小波网络隐层节点数为Ⅳ，则有 Ⅳ g(z)=∑让J^吼(z) ■一I 其中W；∞1．．”，ww)‘是连接隐层与输出层的权值． 在给定样本数据墨的情况下，神经网络训练的目标函数为 一 ’ E(Sp，口)=百1∑(g(xD—y一)2 其中口为待学习参数． 求解最优网络参数就是解如下的一个优化问题 以=argrainE(S．，口) 对于这个优化问题，常用的优化算法为最速下降法，因其为局薛寻优算法，难以收敛到全 局最优解． 3算法介绍 大多小波神经网络的学习算法沿袭了MLP网络，RBF网络上使用的思路和方法．在MLP 网络和RBF网络中，网络权值是算法关注的焦点，而在小波神经网络中，尺度和位移因子起决 定性的作用，只要这两种参数一定，权值的求解只需解一个不定方程组Aw=Y． 小波函数在时额域上有局部性，若为正交小波基，不同小波函数的时频分布没有重叠，要 ’很好的逼近待学习的映射，网络的隐层单