svm算法简介可编辑.pptxVIP

svm(supportedvectormachine);概念：

支持向量机是CorinnaCortes和Vapnik等于1995年首先提出的，其基本原理是（以二维数据为例）：如果训练数据是分布在二维平面上的点，它们按照其分类聚集在不同的区域。基于分类边界的分类算法的目标是，通过训练，找到这些分类之间的边界。对于多维数据（如N维），可以将它们视为N维空间中的点，而分类边界就是N维空间中的面，称为超面（超面比N维空间少一维）。线性分类器使用超平面类型的边界，非线性分类器使用超曲面。

数据：线性可分线性不可分;线性可分

线性不可分

情况1：样本本质上是非线性可分的

解决方法：核函数

情况2：本质上线性，非线性由噪音导致

强制使用非线性函数，会导致过拟合

解决方法：软间隔;线性可分;;线性可分情况;我们怎样才能取得一个最优的划分直线f(x)呢？;最大距离MaximumMarginal;函数间隔;定义函数间隔的原因;函数间隔的局限性;几何间隔;因为wx+b=0，为了方便，我们可以按任意比例缩放w和b，而不会改变结果。我们可以添加这样的约束条件，这意味着可以先求出w和b的解，之后重新缩放这些参数，就可以轻易地满足这个条件。;最大间隔分类器的定义;因此，我们的最大间隔分类的目标函数可以定义为：

事实证明这个约束是一个非