小波神经网络的构造.pdfVIP

第 l6卷 第 4期 模式识别与人工智能 V0l】．16 No．4 2o03年 12月 PR AI Dece 2003 小波神经 网络的构造 * 李卫斌 刘 芳 焦李成 (西安电子科技大学 雷达信号处理国家重点实验室 西安 710071) (西安 电子科技大学 智能信息处理研究所 西安 710071) 摘 要 本文讨论了小波网络的构造理论 ，着重研究了在误差允许 的范围内最少隐层单元数 目的存在性，并给 出 了相应的构造算法．该结果对网络结构的构造有一定的指导意义． 关键词 小波 ，神经网络 。逼近 中图法分类号 TP183 1 引 言 的任意小的正数，fJ ·fJ2表示 L 空间范数 ． 正交小波 (尺度函数)平移系有以下一些重要的 小波函数由于其 良好的局部时频特性 ，在工程 性质 ： 中得 到广泛 的应用…．由给 定 的正交小波 函数 1)正交性 ．V72≠0∈R，( ()， ( 一72) ()生成的小波函数系 { ．6()=~(x-b) ： 0． 2)紧支撑 ．设小波函数的支撑集为 [0，M ]，则 口，b∈R}在 L (尺)中是完备的，对于任意的非线 对 V [0，M]有 (立)=0． 性函数f(x)，该小波函数系可进行任意精度的全局 3)归一性．V ∈R有∑ (一72)=1． n∈Z 逼近．于是 f(x)可 以表示 为 f(oT) 4)连续性 ．除 Haar小波外，多数的小波是连续 ．6丁dadb 的． ． 6 ． 进而我们用二进离散小波 函数 系 “ 神经网络从 20世纪80年代再次复苏并形成热 { ()=sb(2％一 ) ，∈Z}对f(x)∈L (尺) 点以来 ，发展非常迅速，特别是在应用上已迅速扩展 进行逼近，相应上述 的逼近可 以简化为 厂()： 到许多重要领域． G， ，(z)．即使这样要精确逼近一个函数 神经 网络可应用于函数逼近[2-4]．神经 网络 的 仍几乎是不可能的，所 以我们将利用小波函数对应 逼近性能取决于神经元激活函数及神经元 的个数 ． 的尺度函数 ()来逼近．对于多维 函数 的逼近 问 传统的神经网络采用相同的神经元激活函数 ，这势 题可以使用一维小波系统 的张量积小波来逼近 ，这 必影响网络的逼近能力．小波函数具有时域上的紧 里我们仅考虑一维函数的逼近问题． 支撑及频域上的带通性，因而用局部的小波可以替 尺度函数 ()= ~(2ix)的平移系 {仍，() 代传统神经网络全局的Sigmoid函数 ，同时小波具有 = ~(2iX—J)， ∈Z}张成了尺度空间 ．而该平 自相似性，因此可以将小波函数与神经网络结合起 ． 移系构成 了 的标准正交基 ．由多分辨理论可知 来 ，提高网络对复杂函数的逼近能力 ．如果被逼近函 c +1，并且 U ：L (尺)．所以，对于任意的 数的某一部分发生变化时，使用全局函数 的传统 网