稳健的支持向量分类机的优化理论分析.pdfVIP

维普资讯 第 26卷第 2期 (总第 170期) 系 统 工 程 Vo1．26，No．2 2008年 2月 SystemsEngineering Feb．，2008 文章编号：1001—4O98(2OO8)O2—0104—04 稳健的支持向量分类机的优化理论分析 杨志霞 ，邓乃扬。 (1．新疆大学 数学与系统科学学院，新疆 乌鲁木齐 830046； 2．中科院 数学与系统科学研究院，北京 100080； 3．中国农业大学 理学院，北京 100083) 摘 要：由于在实际中，我们 已知的数据往往带有试验误差或者统计误差，因此对扰动数据的处理是一个重要 的课题。文[2]对输入带球形扰动的两类分类 问题提出了稳健的支持向量分类机的模型，本文主要对引入核 后的稳健模型的优化理论做 了系统深入 的研究，内容包括原始 问题的解的唯一性 问题、对偶 问题及其与原始 问题 的关系，从而完善 了稳健 的支持 向量分类机 的优化理论基础，为相应的算法提供 了严密理论依据。 关键词 ：带扰动 的两分类问题 ；稳健的支持 向量分类机 ；二阶锥规划 中图分类号 ；O221 文献标识码 ：A 1 引言 2 稳健的支持向量分类机 Vapnik提 出的支持 向量机理论-l1]因其坚实的理论基 2．1 原始问题的导 出 础和诸多 良好特性在近年获得了广泛的关注。在此之前， 输入为球体扰动的两类分类问题 ：给定的训练集 实际上假定了所给数据是精确的。但在现实中，得到的数 T= (( ，Y)，…，( ，yD) (1) 据总会带有测量或者统计误差，因此为了建立更稳健的分 其 中，输入集合 类器，文 [2]、文[3J对这类问题 已有些研究。文 [2]对输入 盈■： (z+ “，：}}“，ll≤ 1) (2) 带球形扰动的两分类问题提出了稳健的支持向量分类机 即它是一个 以 ，为球心、以 为半径 的球体 ， ∈ = 模型，并将模型归结为一个二阶锥规划 与关于标准支持 {1，一 1)，i= 1，…，．任务是寻找 上的一个实值函数 向量机 的原始问题解集的研究[9]相 比较 ，稳健 的支持向量 g(z)，以便用决策函数 分类机还缺乏完整的理论分析 。因此对稳健的支持向量分 厂(z)==sgn(g(z)) (3) 类机的原始问题的解集、对偶问题及其与原始 问题的关系 推断任一模式z相对应的Y值。 进行系统的分析是很有必要 的。 引进变换 本文主要对稳健的支持 向量分类机 的原始 问题解 的 x= (z) (4) 存在唯一性问题、对偶 问题及其与原始 问题的关系进行了 其中x∈ ， 表示Hilbert空间。训练集(1)变为 系统深入的分析，从而完善了稳健的支持向量分类机的优 T一 ((Xl，y1)，… ，(X ，)) (5) 化理论基础。值得注意的是，这里涉及到无穷维空间中的 其中，X一 ((三)I；。位于以薯为球心，以 为半径的球 二阶锥规划问题。 内)。 若变换 (4)对应于高斯核K(x，z)一exp