小波神经网络简介课件.pptVIP

设小波神经网络为3层网络，包括输入层、隐含层和输出层，输出层采用线性输出，输入层有 m(m=1,2,…,M) 个神经元，隐含层有 k(k=1,2,…,K)个神经元，输出层有 n(n=1,2,…,N) 个神经元。 隐含层选取的神经元激励函数为Morlet小波 训练时，在权值和阈值的修正算法中加入动量项，利用前一步得到的修正值来平滑学习路径，避免陷入局部极小值，加速学习速度。为了避免在逐个样本训练时，引起权值和阈值修正时发生的振荡，采用成批训练方法。对网络的输出也并不是简单的加权求和，而是先对网络隐含层小波结点的输出加权求和，再经Sigmoid函数变换后，得到最终的网络输出，有利于处理分类问题，同时减少训练过程中发散的可能性 给定 p(p=1,2,…,P) 组输入输出样本，学习率为 η (η0) ，动量因子为λ(0 λ1 ) 目标误差函数 式中 为输出层第n个结点的期望输出； 为网络实际输出 算法的目标 不断调整网络的各项参数，使得误差函数达到最小值 隐含层输出 为输入层的输入 为隐含层的输出 为输入层结点 m 为与隐含层结点 k 为之间的权值； h() 为Morlet小波函数。 小波神经网络简介 什么是小波神经网络？ 小波神经网络（Wavelet Neural Network, WNN） Zhang Qinghua等1992年正式提出小波神经网络的概念 小波变换：一种数学分析的工具 小波变换+人工神经网络=小波神经网络 小波网络的结构形式 小波变换与神经网络的结合 小波变换与神经网络的结合，也称松散型结合 应用举例:基于小波分析的多RBF神经网络轧制力设定模型 由于轧制力信号影响因素多，关联复杂，难以建立精确 的机理模型，所以应用小波多分辨率方法，将原信号 分解重构成不同影响因素的子信号。 小波变换与神经网络的融合 小波变换与神经网络的融合，也称紧致型结合 小波的发展过程 小波变换的发展的历史过程 Fourier变换 Gobor变换(加窗Fourier变换) 小波变换 小波变换的时间窗和频率窗 给出了信号在时间窗 内的局部信息 给出了信号在频率窗 内的局部信息 时频窗的面积始终不变， 对于检测 高频信号时a 自适应变为(a0，a较小的时候)使时间窗变窄，对于检测 低频信号时使时间窗变宽即可，这样可以更有效的获取 局部信息 小波的数学概念 小波母函数ψ (t)： 必须满足容许条件： 连续小波： 由小波母函数平移和伸缩变换得来的函数 其中a是尺度参数，b是平移参数 小波变换：对于 ，称 为信号f(t)的连续小波变换 母小波ψ(t)选择应满足的两个条件 (1)定义域是紧支撑的(Compact Support) 即在一个很小的区间以外，函数为零，换句话说，函数 由速降特性，以便获得空间局域化； (2)平均值为零，也就是 Haar小波 Mexican Hat Meyer小波 Sym6 小波 db6小波 常用的小波函数 离散小波、二进小波和多尺度分析 离散小波：对定义的小波函数的尺度参数a，平移参数b，按如下规律进行离散采样 二进小波：即取a为离散值，a为2的j次方，j ? Z； b任然取连续的值 多分辨率分析：多分辨率分析(Multi-resolutionAnalysis)又称多尺度分析，其在小波分析中占有非常重要的地位，它是建立在函数空间概念上的理论,它重点在于处理整个函数集，而非侧重处理作为个体的函数。多分辨率分析从函数空间的角度将一个函数表示为一个低频成分和不同分辨率下的多个高频成分。更为重要的是，多分辨率分析不仅提供了构造小波的统一框架，而且提供了函数分解与重构的快速算法 执行离散小波变换的有效方法是使用滤波器。该方法是Mallat在 1988年开发的，叫做Mallat算法，也叫金字塔算法。这种方法实际上是一种信号的分解方法，在数字信号处理过程中称为双通道子带编码 算法描述：把信号通过滤波器分成高频部分和低频部分，低频部分继续分解，迭代上述过程。形成的树叫小波分解树。 小波网络的具体分类 (1) 用小波函数直接代替隐层函数 根据所选取的小波基函数的连续性的不同，可以将该模型分为连续参数的小波神经网络和基于小波框架的小波神经网络两种： ① 连续参数的小波神经网络 ② 基于小波框架的小波神经网络 基于小波框架的小波神经网络的学习方法 在传统的神