基于后验概率思想的多类支持向量机重构策略研究.pdf

基于后验概率思想的多类支持向量机重构策略 吴德会1’2 1．数字控制技术与应用江西省重点实验室．江西九江332005 E·mail：wdhhf mail@163．tom 2．清华大学电机工程与应用电子技术系．北京100084 E—mail：wudehui@tsinghua．edu．ca 摘要：在分析比较现有多分类支持向晕机“一对一”(ovo)和“一对余”(OVR)分解法存在问题的基础上，提出一种新的利 用二类支持向量机(SVM)实现多类分类器的后验概率重构策略，有效解决了传统重构策略所存在的不可分区域问题，并提高 了识别率。首先，利用测试样本到超平面的空问距离作为估计分类器输出条件概率的准则，以减小不同二类SVM分类器之 间的不可比性。其次，基于贝叶斯后验概率公式，给出了一种合并OVO分解中多个二类SVM分类器输出概率的重构策略， 并考虑各二类SVM分类器之间先验概率的差异。最后，再利用OVR分解对该先验概率进行了估计。在UCI数据库上进行了验 证，实验的结果表明所提重构策略具有更高的识别率。 关键词：多类支持向量机，重构，后验概率，不可分区域 for ReconstructionMulti-classSVMBasedonPosterior Strategy Probabili．ty DeihuiWuI，2 ofNumericalControl 1．KeyLaboratory ofJiangxiProvince，JiujiangUniversity，Jiangxi332005，China E—mail：wdh—hf—mail@163．com ofElectrical 2．Department Engineering，TsinghuaUniversity,Bering100084，China E·mail：wudehui@tsinghua．edu．cn Abstract：Atierand ofthe ofthe analysiscomparisonproblemsexistingone-versus—one(ovo)and methodsofmulti—classvector novel basedon iS to decomposition supDortmachine(SVM)。thestrategY posteriorprobabilitypresented reconstructnmulti．classclassifierfrom SVM．basedclassifiers．Thenewreconstruction increase binary strate州canrecognition andresolvetheunclassifiable intheconventional distanceoftest tOthe accuracy regionproblems ones．Firstly．thegeometric sample classificationiSusedasthecriteri