支持向量机-四川大学.pdf

2012-2013春学期 第十二讲 模式识别引论 支持向量机 赵启军 四川大学计算机学院 支持向量机的基本原理 • Support Vector Machine SVM 支持向量机 （ 、 ） 从线性可分情况下的最优分类面发展而来 • 最优分类面H就是要求分类线不但能将两类正确 ( 0), 分开 训练错误率为 且使分类间隔最大 支持向量支持向量：位于：位于 、、 支持向量支持向量：：位于位于H1、、 上的样本上的样本 H2上的样本上的样本 ：最优分界面：最优分界面 H：：最优分界面最优分界面 、、 ：过两类样本中离：过两类样本中离 H1、、H2 ：：过两类样本中离过两类样本中离 分届面最近的点且平行于最分届面最近的点且平行于最 分届面最近的点且平行于最分届面最近的点且平行于最 间隔间隔 ）：）： 间隔间隔 Margin）：）： 优分届面的超平面优分届面的超平面 优分届面的超平面优分届面的超平面 和和 之间的距离之间的距离 H1和和H2之间的距离之间的距离 2 支持向量机分类问题 • 根据线性可分性分为三种情况 线性可分问题 近似线性可分问题 线性不可分问题 3 线性支持向量机的推导 +1类 • 给定训练样本 x2 -1类 {( ) } x , y | i1=,2, L, N i i x ∈ R2 样本的特征向量样本的特征向量 i 样本的特征向量样本的特征向量 w T w x+ b= 0 样本的类别样本的类别 { } 样本的类别样本的类别 y ∈