孤立点检测的一类支持向量机方法研究.pdfVIP

小 型 微 型 计 算 机 系 统 2008年 11月 第 11期 JournalofChineseComputerSystems Vo1．29 No．11 2008 孤立点检测的一类支持向量机方法研究 田 江 ，顾 宏 (大连理工大学 电子与信息工程学院，辽宁 大连 116023) E—mail：tianjiang@gmail．eom 摘 要：孤立点是不具备数据一般特性的数据对象，One—Class支持向量机将数据点映射到高维空间，通过划分距离坐标原点 最远间隔的超平面来发现孤立点．该学习算法在应用中误检率比较 高，另外模型参数不易选择．由此，本文将无监督的One Class支持向量机同监督学习方法相结合，提出了一种新的检测算法，利用ROC(受试者工作特征)分析作为评价依据，在限定 范围内自动搜索最优参数，进而通过调节闽值获得孤立点检测决策函数．仿真实验结果表明，该算法简单有效，易于推广到实际 应用 中． 关 键 词：孤立点检测；支持向量机；ROC曲线 中图分类号 ：TP181 文献标识码：A 文 章 编 号：1000—1220(2008)11-2107—04 StudyofOne-classSupportVectorM achinesforOutlierDetection TIAN Jiang，GU Hong (SchoolofElectronicandInformationEngineering，DalianUniversityof Technology，Dalian116023，China) Abstract：Outliersareobjectsthatdonotcomplywiththegeneralbehaviorofthedata．Inordertodetectoutliers，One—Class SVM (supportvectormachine)computesahyperplaneinfeaturespacewhichhasmaximalmargintotheorigin．ButtheFPR (falsepositiverate)isalwayshighandtheparameterswilldirectlyaffecttheresult．SowecombinetheunsupervisedOne-class SVM withasupervisedmethod，proposeanew modelfordetectingoutlierswhichmakeuseofROC(receiveroperatingcharac— teristic)analysis．Theoptimum parametersareautomaticallysearchedinlimitedscope，andthenleadtothedetectiondecision fucntionafteradjustingthethreshold．Experimentresultsshowthatthemethodissimple，effectiveandeasytouse． Keywords：outlierdetection；supportvectormachine；ROC analysis 1 引 言 具体实现是通过计算最优ROC曲线面积AUC(Areaunder theROCcurve)来评价检测效果[9]，在限定范围内自动搜索， 随着信息技术的发展，数据库的容量、维数和复杂度都增 从而获得最佳模型参数；通过调节决策函数的输出阈值即可 长的十分迅速，而真实数据往往受到人工错误、舍入误差、导 获得最佳检测率和误检率．将实现后的软件应用于真实数据， 入导出因素的影响而不能直接用于数据挖掘．孤立点检测用 仿真实验结果证明了算法的有效性． 于发现不具备一般数据特性的数据，进而发现潜在的有用信 息．孤立点检测可以应用到很多领域，如信用卡欺诈检测、安 2 One—Class支持向量机 全系