浅析基于EKF的模糊神经网络快速自组织学习算法.docVIP

　　浅析基于EKF的模糊神经网络快速自组织学习算法 　摘 要:为了快速地构造一个有效的模糊神经网络,提出一种基于扩展卡尔曼滤波(EKF)的模糊神经网络自组织学习算法。在本算法中,按照提出的无须经过修剪过程的生长准则增加规则,加速了网络在线学习过程;使用EKF算法更新网络的自由参数,增强了网络的鲁棒性。仿真结果表明,该算法具有快速的学习速度、良好的逼近精度和泛化能力。 　　 　　关键词:模糊神经网络;扩展卡尔曼滤波;自组织学习 　　　　doi:10.3969/j.issn.1001-3695.2010.07.016 　　 　　Fast self-organizing learning algorithm based on EKF for fuzzy neural based on extended Kalman filter for fuzzy neural , the eters an filter approach and the robustness of the ulation results sho can achieve fast learning speed, high approximation precision and generation capability. 　　Key an filter(EKF); self-organizing learning 　　 　　模糊神经网络起源于20世纪80年代后期的日本,由于其简单、实用,已经被广泛应用在工业控制、系统辨识、模式识别、数据挖掘等许多领域[1~4]。然而,如何从可用的数据集和专家知识中获取合适的规则数仍然是一个尚未解决的问题。为了获取模糊规则,研究人员提出了不同的算法,如2.1.2 可容纳边界 　　从某种意义上来讲,模糊神经网络结构的学习是对输入空间的高效划分。模糊神经网络的性能和结构与输入隶属函数紧密相关。本文使用的是高斯隶属函数,高斯函数输出随着与中心距离的增加而单调递减。当输入变量采用高斯隶属函数时,则认为整个输入空间由一系列高斯隶属函数所划分。如果某个新样本位于某个已存在的高斯隶属函数覆盖范围内,则该新样本可以用已存在的高斯隶属函数表示,不需要网络生成新的高斯单元。 　可容纳边界:对于第i个观测数据(xi,ti),计算第i个输入值xi与已有RBF单元的中心cj之间的距离di(j),即 　　 　　di(j)=‖xi-cj‖;i=1,2,…,n; j=1,2,…,u(6) 　　 　　其中:u是现有的模糊规则或RBF单元的数量。令 　　 　　di,min=arg min(di(j))(7) 　　 　　如果di,mingt;kd,kd=max[dmax×γi,dmin](8) 　　 　　则说明已存在的输入隶属函数不能有效地划分输入空间。因此,需要增加一条新的模糊规则,否则,观测数据可以由已存在的距离它最近的RBF单元表示。其中:kd是可容纳边界的有效半径;dmax是输入空间的最大长度;dmin是所关心的最小长度;γ(0lt;γlt;1)是衰减因子。 　　 　　2.1.3 误差下降率 　　传统的学习算法把误差减少率(ERR)[5]用于网络生长后的修剪过程,算法会因为修剪过程而增加计算负担,降低学习速度。本文把误差减少率用于生长过程形成一种新的生长准则,算法无须经过修剪过程,从而加速网络的学习过程。 　　 　　给定n个输入/输出数据对(xi,ti),t=1,2,…,n,把式(3)看做线性回归模型的一种特殊情况,该线性回归模型为 　　 　　t(i)=uj=1hj(i)θj+ε(i)(9) 　　 　　式(9)可简写为 　　D=HΘ+E(10) 　　 　　D=TT∈Rn是期望输出,H=φT∈Rn×u是回归量,Θ=WT∈Ru是权值向量,并且假设E∈Rn是与回归量不相关的误差向量。 　　 　　对于矩阵φ,如果它的行数大于列数,通过QR分解: 　　 　　H=PQ(11) 　　 　　可把H变换成一组正交基向量集P=[p1,p2,…,pu]∈Rn×u,其维数与H的维数相同,各列向量构成正交基,Q∈Ru×u是一个上三角矩阵。通过这一变换,有可能从每一基向量计算每一个分量对期望输出能量的贡献。把式(11)代入式(10)可得 　　 　　D=PQΘ+E=PG+E(12) 　　 　　G的线性最小二乘解为G=(PTP)-1PTD,或 　　 　　gk=pTkDpTkpk;k=1,2,…,u(13) 　　Q和Θ满足下面的方程: 　　QΘ=G(14) 　　 　　当k≠l时,pk和pl正交,D的平方和由式