一种基于S形函数LMS算法仿真研究.docVIP

一种基于S形函数LMS算法仿真研究 　　摘要：定步长算法在收敛速度、时变跟踪能力和稳态失调噪声几个重要指标上不能兼顾。为此，参考人工神经网络中一种常用激励函数——形函数，并将其应用于变步长算法中。引入改变形函数曲线曲率及收敛终值的两个参数——。当值固定时，仿真表明若其值选择不当会引起较大误差。接着按照步长值在时变阶段自适应增大，在稳态阶段步长很小的原则，构造了变参数，仿真表明变参数算法兼顾多个参数，综合表现较好。 　　关键词：S形函数 变步长 误差信号 稳态失调噪声 　　中图分类号：TN911 文献标识码：A 文章编号：1007-9416（2013）02-0106-02 　　定步长算法因其计算简单易实现而在众多领域获得应用，但它在收敛速度、时变跟踪能力和稳态失调噪声几个重要指标上对步长的要求是相互矛盾的。为此人们提出了各种变步长算法，其基本思想是结合系统对收敛或跟踪能力的具体要求，寻求一种较优的代价函数来指导步长的非线性变化，代价函数的自变量是误差（误差的函数）。受形函数的非线性变化规律启发，在步长和误差之间建立参数可控的类似非线性关系。仿真结果验证了算法可行，兼顾收敛速度、时变跟踪能力和稳态失调噪声几个重要指标。 　　1 S形函数简介 　　形函数是人工神经网络建模时常用到的一种非线性激励函数，其形式为： 　　（1） 　　或 　　（2） 　　函数曲线形状如下图1所示。从中可看出对应自变量的每个点的曲线斜率都不同，整体趋势是随着的减小先增大再减小。两个函数从计算量角度衡量，（2）式比（1）式少一次乘法，更简单一些，而函数变化规律是相似的，因此将（2）式作为本文形函数的基本型。 　　在变步长算法中，要求初始阶段或未知系统参数发生变化时，为获得较快的收敛速度或对时变系统实现快速跟踪，步长要取得大一些。当算法收敛后，不管主输入端干扰多大，又要求步长取得小一些，以达到较小的稳态失调噪声。这种趋势恰与形函数变化趋势相同（如图1）。 　　2 引入参数α、β的分析 　　为了建立参数可控的非线性函数，引入参数来调节形函数的形状和收敛终值。参数可以是固定值或可变值??? 　　当引入固定参数（均大于零）分别对变量——误差和步长进行调节。结合（2）式，得 　　（3） 　　其中α控制函数曲线形状：当β确定的情况下，α越大曲线越陡，即曲率变化越快。β控制步长值的范围。关于m的取值，经过理论分析及大量仿真得出当确定的情况下，m =3时是一个理想取值[1]，既能保证在变化量接近零时，步长调整量适当小，又能使在变化量未接近零时，步长调整量适当大。当取值较理想时，变步长算法在收敛速度、精度、跟踪能力等方面比定步长算法均优越。而没有取得适当的值时，上述参数指标甚至还不如定步长算法。问题的关键在于如何取得理想的值。实际上，是需要针对不同的应用场景，通过实验来确定的常数。假如信道参数发生变化，则初始参数取值有可能不适合变化后的信道。因此引入固定参数来对曲线斜率进行调节时，针对不同的应用环境，需要做大量多次的仿真比较，以此来确定合适的值[2]。 　　而引入可变参数（均大于零）分别对变量——误差函数和步长进行调节，有下列关系式： 　　（4） 　　由上式易知，均正比于，即步长随着的增大或减小而同时增大或减小。如果令也均随着的增大或减小而同时增大或减小。那么在算法的初始收敛阶段误差较大，则也大，同时较大，也就有较大的调整步长，所以收敛速度较快；当算法进入稳态的进程中，误差逐渐变小，也变小，同时变小，此时就有较小的调整步长，所以具有较小的稳态失调噪声。而当信道产生跃变时，误差突然变大，则也变大，随之变大，对应的调整步长变大，算法迅速跟踪系统。 　　当算法收敛后，输入端存在的常态白噪声会导致误差在某常数值附近波动，这是因为：由 　　（5） 　　（是输入源信号，是权值系数）及 　　（6） 　　（是输入源信号，是最优权值系数） 　　可得： 　　（7） 　　从上式可看出会导致误差波动，所以也不断小幅度变化，由本节初的各函数之间关系分析，在稳态时，必然存在在某常数值附近扰动的稳态失调噪声。为了降低白噪声的影响，考虑到白噪声与输入信源的相关性近似为零，白噪声自相关性亦为零，所以如果采用当前误差与上一步误差的自相关估计来控制，即 　　（8） 　　此表达式中无参数，所以会大大降低白噪声的影响。为了简化计算量，令 　　（9） 　　将（9）代入式（4），得 　　（10） 　　关于的取值，考虑到当当前误差大于上次误差时，需要变大；小于上次误差时，需要变小；而正比于，所以可令 　　（11） 　　对于，因为其直接影响步长的取值范围，且当误差变化剧烈时步长波动较大，可将当前步长值与上一次保持密切关系，平滑掉波动影响，即令，，接近1；而