基于支持向量机多分辨率信号逼近算法探究.docVIP

基于支持向量机多分辨率信号逼近算法探究摘要：鉴于多分辨率信号逼近算法（MSA 算法）中尺度空间是再生核希尔伯特空间（RKHS）这一事实。借助于支持向量机（SVM）优秀的分类能力和泛化性能，提出了一种基于支持SVM的MSA算法。通过引入松弛变量后借助于拉格朗日乘子法来求的约束规划，最后获得逼近表达式和逼近系数。通过对比MSA算法，基于SVM的MSA算法不仅保留了MSA算法多分辨率逐级逼近的优点，而且具有更好的逼近准确度与平滑度。并通过实验验证了该算法的正确性和有效性。 关键词：支持向量机 多分辨率 再生核希尔伯特空间 中图分类号：TN911.2 文献标识码：A 文章编号：1007-9416（2012）09-0118-02 1、导言 支持向量机（Support Vector Machine，简称SVM）方法是在近年来提出的一种新方法。迅速成为机器学习领域的一大热点之一。Vapnik等人在多年研究统计学习理论基础上对线性分类器提出了另一种设计最佳准则。其原理也从线性可分说起，然后扩展到线性不可分的情况，甚至扩展到使用非线性函数中去。 很多情况下，训练数据集是线性不可分的，Vapnik等人提出了用广义分类面（松弛子）来解决这一问题。其基本思想是：通过非线性变换将它转化为某个高维空间中的线性问题，在这个高维空间中寻找最优分类面。 首先通过映射函数将样本数据映射到某再生核希尔伯特空间（RKHS）F中即：，然后在F中使用线性学习分类器。SVM的核函数K（对所有x，z满足）就是F的再生核。因为SVM采用结构风险最小化（SRM）准则，因此具有良好的逼近准确度与平滑度。 近年来，小波理论在许多领域得到了广泛的应用，特别是在模式识别、信号处理和数值分析等领域，为各种应用提供了有效的算法。业已证明，核函数能有效提高模型的准确度和迭代收敛速度；而对于缺乏先验知识的平滑函数，多尺度插值方法是很好的处理手段。而以上两点正是小波所特有的性质，我们如果能够有效地能构建小波核，就可将二者很好的结合起来。 鉴于SVM优秀的分类能力和泛化性能，将小波理论和SVM结合起来进行研究，具有非常重要的意义，可望得到一系列创新性成果。因此，我们可以借鉴以上思想，在基于小波分析为基础的多分辨率信号逼近算法（MSA）中集成SVM的逼近准则，借助SVM良好的逼近准确度与平滑度来提升MSA的逼近性能。 假设一个平方可积空间为其子空间为Vj。MSA仅是在内研究其逼近问题，而没有注意到尺度空间Vj是再生核希尔伯特空间（RKHS）这一已得到证明的事实。因为RKHS再生性的优良特性，如果我们能够在RKHS内研究问题会比在内更加具有优势。本文讨论的内容就是基于以上优势来提出一种基于SVM的MSA算法。 其逼近表达式为（7）式，逼近系数为（9）式。 我们可以看出，基于SVM的MSA不仅具有多分辨率逐级逼近的功能，而且在逼近准则、逼近表达式和逼近系数方面基本保留的MSA的特点。 5、实验仿真 针对SINC函数，x从-160至160取值，步进量为4抽取样本点，一共取得90个样本点，假设无噪声污染，在不同分辨率水平（j=1，2，3）上逼近函数。 为便于计算，上文中（5）式的再生核计算中，采用2阶Daubechies小波对应的尺度函数，参数；。下图是信号在用MSA算法和基于SVM的MSA算法在分辨率水平（j=2）时对的逼近。图1中可以看出，在较低分辨率水平下，基于SVM的MSA算法比MSA算法逼近的较为准确和平滑。 6、结语 本文在研究了支持向量机算法和多分辨率信号逼近算法的基础上，基于多分辨率信号逼近算法中尺度空间是再生核希尔伯特空间这一事实，提出了一种基于支持向量机的多分辨率信号逼近算法。理论和实验均表明，该算法不仅具有多分辨率逐级逼近的功能，而且在逼近准确度上和平滑度上较多分辨率信号逼近算法有明显的提高。 参考文献 [1]Vapnik V，Golowich S；Smola A J Support vector method for function approximation，regression estimation，and signal processing.1997. [2]Strauss D J；Steid G Hybrid wavelet-support vector classification of waveforms .2002（02）. [3]Mallat S A theory for multiresolution signal decomposition：the wavelet representation 1989（07）. [4]Neuman J；Schorr C Effectively