密度函数估计的修正SVM法.PDFVIP

云南大 学学报 ( 自然科 学版) , 2004 , 26 ( 4) : 284～287 CN 53 - 1045/ N 　ISSN 0258 - 7971 Journal of Yunnan University 密度函数估计的修正 SVM 法 彭新俊 , 胡光华 (云南大学 数学系 ,云南 昆明　65009 1) ( 摘要 :讨论密度函数的非参数估计问题 ,提出了一种修正的支持向量机 Support Vector Machines ,简记为 SVM) 方法 ,修正 SVM 法是在 SVM 方法的基础上进行简单改进而得到的 ,它是基于概率理论的概率大的事件 其对应的样本数 目会比概率小的事件的对应的样本数 目多一些这一先验性质而产生的 ,这样估计的函数能更 好地近似真正的密度函数. 同时 , 由于密度函数的估计问题是不适定的 ,文中密度函数估计采用了正则化技术 处理这一估计问题 ,最后通过一模拟实验 ,表明采用修正 SVM 法比采用 SVM 法进行密度函数估计能更好地 逼近真实密度函数. 关键词 :密度估计 ;支持向量机 ;修正 SVM ;正则化 ;统计学习 ( ) 中图分类号 : TP 274 　　文献标识码 :A 　　文章编号 :0258 - 797 1 2004 04 - 0284 - 04 　　密度函数是反映概率空间中事件发生可能性 一个常量来处理 ,而是作为一个变动的序列. 大小的一个度量, 通常在我们进行样本观察时, 可 本文讨论用 SV M 进行密度估计问题. 将 C - 以得到样本序列 x 1 , x 2 , …, x l . 在统计学中, 我们 A SV M 方法应用到密度函数估计中来 ,将修正为 已知样本的分布类型而只需考虑参数的估计. 然 可以反映样本的“疏密性”,使估计更接近实际密度 而, 在许多数据处理中, 已知的仅仅是上述样本为 函数. 实例表明 ,修正的 SV M 方法比原有的 SV M i . i . d , 而对密度函数没有任何信息. 为了揭示 x 1 , 方法在密度估计问题上更好. x 2 , …, x l 的规律, Vap nik [ 1 ] 提 出了支持 向量机 1 　SVM 与函数估计 ( SV M) 方法 ,并利用 Parzen 窗给出了密度估计的 ( 非参数方法和密度估计的 SV M 的解. 统计学习理 对函数估计 问题, 设给定 的样本 点为 x 1 , ) ( ) n 论强调的是小样本统计学的问题 ,它是在只给出数 d 1 , … x l , dl , 其中 x i ∈R 为输入向量, di ∈R 据而对数据的概率分布没有先验的信息对某些问