从广义线性分类器到支撑向量机.pdfVIP

5.5 从广义线性分类器到 支持向量机(Support Vector Machine) Xuegong Zhang 1 Tsinghua University T g (x) w x + w0 线性判别函数 g (x) 0 ⇒ x ∈ω  1  g (x) 0 ⇒ x ∈ω  2 Xuegong Zhang 2 Tsinghua University Xuegong Zhang 3 Tsinghua University Xuegong Zhang 4 Tsinghua University 最优分类面(Optimal Hyperplane) 假定训练数据(x , y ), L, (x , y ) , x ∈R n , y ∈ {+ 1,− 1} 1 1 l l 可以被一个超平面(w ⋅ x ) − b 0 分开。 如果这个向量集合被超平面没有错误地分开，并且 离超平面最近的向量与超平面之间的距离 （称作间隔 margin）是最大的，则我们说这个向量集合被这个最 优超平面 （或最大间隔超平面）分开。 决策函数为 f (x) sgn{(w ⋅ x) − b} Xuegong Zhang 5 Tsinghua University 假定训练数据 (x , y ), L, (x , y ) , x ∈R n , y ∈ {+ 1,− 1} 1 1 l l 可以被一个超平面 (w ⋅ x ) − b 0 分开。 如果这个向量集合被超平面没有错误地分开，并且离超平面最近的向量与超平 面之间的距离 （称作间隔margin ）是最大的，则我们说这个向量集合被这个最优 超平面（或最大间隔超平面）分开。 决策函数为 f (x) sgn{(w ⋅ x) − b} 问题：超平面的参数可 以增大或缩小任意正的 尺度而不影响分类结 果，