数据挖掘3数据分类64课件讲解.pptxVIP

;;这是最理想的情况，假设数据是线性可分的。

（1）问题定义

假设训练数据集D={(x1,y1),(x2,y2),…,(xm,ym)}，其中xi∈Rn，yi∈{+1,?1}。

超平面方程为：

wTx+b=0

（2）函数间隔与几何间隔

函数间隔定义为：

γi=yi(wTxi+b)

几何间隔是点到超平面的实际距离：;（3）最大化间隔问题

希望最大化最小的几何间隔：

令函数间隔γ=1，问题转化为：

等价于：

这是SVM的原始优化问题。

（4）对偶问题推导

①拉格朗日函数;引入拉格朗日乘子αi≥0，构造拉格朗日函数：

其中α=(α1,α2,…,αm)T。

②对偶问题

原始问题：minw,bmaxα≥0