小波神经网络及其应用资料.docxVIP

小波神经网络及其应用 1014202032 陆宇颖 摘要：小波神经网络是将小波理论和神经网络理论结合起来的一种神经网络，它避免了 BP 神经网络结构设计的盲目性和局部最优等非线性优化问题， 大大简化了训练，具有较强的函 数学习能力和推广能力及广阔的应用前景。 首先阐明了小波变换和多分辨分析理论， 然后介 绍小波神经网络数学模型和应用概况。 1.研究背景与意义 人工神经网络是基于生物神经系统研究而建立的模型，它具有大规模并行处理和分 布式存储各类图像信息的功能， 有很强的容错性、联想和记忆能力，因而被广泛地应用于故 障诊断、模式识别、联想记忆、复杂优化、图像处理以及计算机领域。但是，人工神经网络 模型建立的物理解释，网络激活函数采用的全局性函数， 网络收敛性的保证，网络节点数的 经验性确定等问题尚有待进一步探讨和改善。 小波理论自Morlet 提出以来，由于小波函数具有良好的局部化性质， 已经广泛渗透到 各个领域。小波变换方法是一种窗口大小固定但其形状可以改变 ，时间窗和频率窗都可以改 变的时频局部化分析方法，由于在低频部分具有较高的频率分辨率和较低的时间分辨率 ， 在高频部分具有较高的时间分辨率和较低的频率分辨率 ，所以被誉为数学显微镜。正是这种 特性，使小波变换具有对信号的自适应性。 基于多分辨分析的小波变换由于具有时频局部化 特性而成为了信号处理的有效工具。 实际应用时常采用Ma 1 1 a t快速算法， 利用正交小 波基将信号分解到不同尺度上。实现过程如同重复使用一组高通和低通滤波器把信号分解到 不同的频带上，高通滤波器产生信号的高频细节分量， 低通滤波器产生信号的低频近似分量。 每分解一次信号的采样频率降低一倍， 近似分量还可以通过高通滤波和低通滤波进一步地分 解，得到下一层次上的两个分解分量。 而小波神经网络（Wavelet Neural Network，WNN ）正是在近年来小波分析研究获得突 破的基础上提出的一种人工神经网络。 它是基于小波分析理论以及小波变换所构造的一种分 层的、多分辨率的新型人工神经网络模型， 即用非线性小波基取代了通常的非线性 Sigmoid 函数，其信号表述是通过将所选取的小波基进行线性叠加来表现的。 小波神经网络这方面的早期工作大约开始于 1992年，主要研究者是Zhang Q Harold H S 和焦李成等。其中，焦李成在其代表作〈〈神经网络的应用与实现》中从理论上对小波神经网 络进行了较为详细的论述。近年来，人们在小波神经网络的理论和应用方面都开展了不少研 究工作。 小波神经网络具有以下特点。 首先，小波基元及整个网络结构的确定有可靠的理论根据， 可避免BP神经网络等结构设计上的盲目性；其次，网络权系数线性分布和学习目标函数的 凸性，使网络训练过程从根本上避免了局部最优等非线性优化问题； 第三，有较强的函数学 习能力和推广能力。 2.数学模型与小波工具 2.1小波变换及多分辨分析 在函数空间L2（R）（或更广泛的Hilbert空间）中，选择一个母小波函数（又称为基本 小波函数）枣（x）,使其满足允许条件: 人 2 枣(w) C^ =「 dw 8 ■ w 式中甲(w)为W(x)的Fourier变换。对中(x)作伸缩、平移变换得到小波基函数系 a：， 、七b(x) =—1一审(7) (a,b R2) (2) a a 2八 对任意f (x) = L (R),其连续小波变换定义为： 1 , Wf(a,b)= ° f(x)l「a,bdx (3) G[r R 反演公式为： 1 二 f(x)=尸 Wf(a,b)*a,bdadb (4) C1「0 在实际应用中，特别是计算机实现中， 往往要把上述的连续小波及其变换离散化， 通常 采用二进制离散，即令a=2m,b=k2m,则 1 TOC \o 1-5 \h \z 甲m,k(x)乎(2小我) (m,k Z2) (5) -.,2m 二进小波一定是一个允许小波， 且是一个正交小波基。 考虑一个连续的、平方可积的函 数f(x)WL2(R)在分辨率2mT的逼近fm(x), 由多分辨分析理论可知： -bo fm(x)=、amEmk(x) (6) k --：： 中(X)是尺度函数，对其作伸缩、平移变换得到 中mk(x)。 1 2 mk(x) =「. m ：(2 x-k) (m,k Z)⑺ 2 _1乂 (8)amk = . f(x)：mk(x)dx (8) Mallat同时证明了函数f(x)在2m和2m，分辨率下的信息差别(即细节) Dmf (x), 可以通过将函数f(x) 在一小波正交基上分解而获得，从而定义了一种完全而且正交的多分 辨率描述，即小波描述。 HaD Dmf(X)= L_dm『】％(X) (9) k --：： -bo dmk = . f (X)1