4-1-SVM分类-硬间隔最大化.pdfVIP

支持 向量机 （SV M） 翟婷婷 扬州大学 信息工程 （人工智能）学 院 zhtt@yzu.edu.cn 2 02 1年秋 翟婷婷 (扬州大学) 1 课程 目标  理解硬 间隔最大化思想和线性可分SV M算法 。  掌握拉格 朗 日对偶性的主要概念和结论 ，并灵活运用 。  学会推导支持 向量机的对偶优化 问题 。  理解支持 向量 的作用 。 2 问题 的提 出  给定如 图所示的一个线性可分的训练数据集，能将该数 据集 中的两类样本完全正确分开的直线有很多 。  利用感知机算法可以找到一条直线，且找到的直线不是 唯一的。图中每条直线都可能是感知机算法求得的直线 。  哪一条直线最好？  感知机无法 回答这个 问题 。  SVM告诉我们，在所有能 将训练样本正确分类的直 线 中具有最大的间隔的那 条直线是最优的。 3 SV M简介  支持 向量机算法是 由俄罗斯著名的统计学家和数学家弗 拉基米尔·瓦普尼克 (Vladimir Naumov ich V apnik)于 1963 年提 出的。  。 4 SV M的发展历程 5 点到超平面 的垂直距离 ⊺  给定一个分割超平面 + = 0，其对应的判别函数为 ⊺ () = + ，分割超平面将整个特征空间分为两个 决策域： () 0和 () 0 。 ⊺  点到超平面 + = 0 的垂直距离为： ⊺ | () | | + | = = || |