支持向量机研究现状.pdfVIP

第7 卷(A 版)　第6 期 中国图象图形学报 Vol.7(A), No.6 2002 年6 月 Journal of Image and Graphics Jun.2002 　　这是本刊特为海内外正在就读和学成立业的博士、博 中华博士 士后青年学者们开辟的一片科普园地.深学浅著是一门德 识、慧学、素质修养的学问.你们的新知识、新调研、新观察、 新目光、新展望, 能够用尽可能深入浅出、通俗流畅的语言, 园地 汇报给祖国人民、家乡父老子弟乡亲们吗? 中华博士园地, 乃耕耘忠孝之地, 科教兴国、民族昌盛之地.要用慈母听得 懂的语言, 写出你们的心声 ! 中图法分类号:TP 91.4　　文章编号:1006-8961(2002)06-0618-06 支持向量机的研究现状 柳回春　 马树元 (北京 工大学机械工程及自动化学院, 北京　100081) 在一组函数{f (x , w )}中, 求一个最优的函数 0 　 论背景 f (x , w 0), 用以对x 和y 之间的依赖关系进行估计, 使期望风险最小, 即: 基于数据的机器学习是现代智能技术中十分重 minR (w )= L (y ,f (x , w ))dF (x , y ) (2) ∫ 要的一个方面.机器学习的目的是根据给定的训练 样本求对某系统输入输出之间依赖关系的估计, 使 其中, 预测函数集{f (x , w )}可以表示任何函数集 它能够对未知输出作出尽可能准确的预测.机器学 合, w 为函数的广义参数, L (y , f (x , w ))为用 [1] f (x , w )对y 进行预测而造成的损失, 不同类型的学 习一般地可以表示为 :变量y 与x 存在一定的未 知依赖关系, 即遵循某一未知的联合概率F (x , y ), 习问题有不同形式的损失函数. (x 和y 之间的确定性关系可以看作是其特例), 机 统计模式识别的传统方法都是在样本数目足够 器学习问题就是根据 l 个独立同分布观测样本 多的前提下进行研究的, 所提出的各种方法只有在 (x ,y ), (x , y ), …, (x , y ) (1) 样本数趋于无穷大时其性能才有 论上的保证.而 1 1 2 2 l l 在实际的应用中, 样本数目通常是有限的, 于是, 人 们采用了所谓的经验风险最小化(Empirical Risk Minimization, ERM)准则, 即用样本定义经验风险 　　　柳回春　1975 年生, 博士生.主要研究 l 1 方向为模式识别, 图象处 , 支持向量机, R emp (w )= l ∑L (y i ,