小波神经网络简介.pptVIP

设小波神经网络为3层网络，包括输入层、隐含层和输出层，输出层采用线性输出，输入层有 m(m=1,2,…,M) 个神经元，隐含层有 k(k=1,2,…,K)个神经元，输出层有 n(n=1,2,…,N) 个神经元。 隐含层选取的神经元激励函数为Morlet小波 训练时，在权值和阈值的修正算法中加入动量项，利用前一步得到的修正值来平滑学习路径，避免陷入局部极小值，加速学习速度。为了避免在逐个样本训练时，引起权值和阈值修正时发生的振荡，采用成批训练方法。对网络的输出也并不是简单的加权求和，而是先对网络隐含层小波结点的输出加权求和，再经Sigmoid函数变换后，得到最终的网络输出，有利于处理分类问题，同时减少训练过程中发散的可能性 给定 p(p=1,2,…,P) 组输入输出样本，学习率为 η (η0) ，动量因子为λ(0 λ1 ) 目标误差函数 式中 为输出层第n个结点的期望输出； 为网络实际输出 算法的目标 不断调整网络的各项参数，使得误差函数达到最小值 隐含层输出 为输入层的输入 为隐含层的输出 为输入层结点 m 为与隐含层结点 k 为之间的权值； h() 为Morlet小波函数。 输出层输出为 为输出层的输入 为隐含层结点 与输出层结点 之间的权值 隐含层与输出层之间的权值调整式 分别表示调整前与调整后的隐含层结点k 与输出层结点n 之间的连接权值； 为动量项。 输入层结点与隐含层结点之间的权值调整式 分别为调整前与调整后的输入层结点 m 与隐含层结点 k 之间的权值 为动量项 伸缩因子调整式 为调整前与调整后的伸缩因子； 为伸缩因子动量项。 平移因子调整式 为调整前与调整后的平移因 子； 为平移因子动量项。 学习算法的具体实现步骤 1）网络参数的初始化 将小波的伸缩因子、平移因子、网络连接权值、学 习率以及动量因子赋予初始值，并置输入样本计数器 p=1 2）输入学习样本及相应的期望输出 3）计算隐含层及输出层的输出 4）计算误差和梯度向量。 5）输入下一个样本，即 p=p+1 6）判断算法是否结束。当 Eε时，即代价函数 小于预先设定的某个精度值ε(ε0)，停止网络的学习，否则将计数器重置为1，并转步骤2）循环 小波神经网络的MATLAB函数 静态非线性回归小波神经网络的创建 指令格式 THETA = wnetreg(y, x, nbwavelon, max_epoch, initmode, min_nbw, levels) 参数说明 输出参数 THETA 小波回归模型的估计参数。 输入参数 y 是一个列向量，x 对于单输入为一个列向量；对于多输入，x=[x1 x2 ... xm]，每个xi都是一个列向量。 nbwavelon：构建小波网络的小波数量 max_epoch：最大训练次数； initmode为初始化模式 min_nbw：最小输入模式数 min_nbw和levels为可选项 小波神经网络的仿真 wavenet( )，可以很方便地得到网络的仿真结果。 指令格式： g = wavenet(x, THETA) 谢谢观赏 小波神经网络简介 什么是小波神经网络？ 小波神经网络（Wavelet Neural Network, WNN） Zhang Qinghua等1992年正式提出小波神经网络的概念 小波变换：一种数学分析的工具 小波变换+人工神经网络=小波神经网络 小波网络的结构形式 小波变换与神经网络的结合 小波变换与神经网络的结合，也称松散型结合 应用举例:基于小波分析的多RBF神经网络轧制力设定模型 由于轧制力信号影响因素多，关联复杂，难以建立精确 的机理模型，所以应用小波多分辨率方法，将原信号 分解重构成不同影响因素的子信号。 小波变换与神经网络的融合 小波变换与神经网络的融合，也称紧致型结合 小波的发展过程 小波变换的发展的历史过程 Fourier变换 Gobor变换(加窗Fourier变换) 小波变换 小波变换的时间窗和频率窗 给出了信号在时间窗 内的局部信息 给出了信号在频率窗 内的局部信息 时频窗的面积始终不变， 对于检测 高频信号时a 自适应变为(a0，a较小的时候)使时间窗变窄，对于检测 低频信号时使时