svm算法简介.pptVIP

svm(supported vector machine) 线性可分 线性不可分 情况1：样本本质上是非线性可分的 解决方法：核函数 情况2：本质上线性，非线性由噪音导致 强制使用非线性函数，会导致过拟合 解决方法：软间隔 线性可分 定义： 对于来自两类的一组模式 ,如果能用一个线性判别函数正确分类,则称他们是线性可分的。 线性可分情况 函数间隔 定义函数间隔为： 接着，我们定义超平面（w,b）关于训练数据集T的函数间隔为超平面（w,b）关于T中所有样本点（xi,yi）的函数间隔最小值，其中，x是特征，y是结果标签，i表示第i个样本，有 定义函数间隔的原因 一般而言，一个点距离超平面的远近可以表示为分类预测的确信或准确程度。在超平面 确定的情况下， 能够相对的表示点X到超平面的远近，而 的符号与类标记y的符号是否一致表示分类是否正确，所以，可以用量 的正负性来判定或表示分类的正确性和确信度，于是引出函数间隔概念。 函数间隔的局限性 上述定义的函数间隔虽然可以表示分类预测的正确性和确信度，但在选择分类超平面时，只有函数间隔还远远不够，因为如果成比例的改变w和b，如将他们改变为2w和2b，虽然此时超平面没有改变，但函数间隔的值却