SVM理论和算法分析.docVIP

WORD格式.分享 精品.资料 硬间隔线性支撑向量机 假设给定一个特征空间上的训练数据集： T= 其中，xi∈Rn, yi∈+1,-1,i=1,2,…,N, xi为第i个特征向量或实例， yi为xi的类标记，当 假设训练数据集是线性可分的（存在硬间隔），那么学习的目标是在特征空间找到一个分离超平面，能将实例分到不同的类。分离超平面方程w?x+b=0，它由法向量w和截距b决定，可用w,b表示。分离超平面将特征空间分为两部分，一部分是正类，一部分是负类。法向量指向的一侧为正类，另一侧是负类。 一般地，当训练数据集线性可分时，存在无穷个分离超平面可将两类数据正确分开，感知机利用误分类最小的策略，求得分离超平面，不过这是的解有无穷多。线性可分支撑向量机利用间隔最大化求最优分离超平面，解唯一。 一、模型推导 1.函数间隔：一般来说，一个点距离分离超平面的远近可以表示分类预测的确信程度。在超平面w?x+b=0确定的情况下，|w?x+b|能够相对地表示（注意：真实距离为|w?x+b|∥w∥）点x距离超平面的远近。而w?x+b的符号与类标记y的符号是否一致能够表示分类是否正确。所以可用标量yw?x+b来表示分类的正确性及确信度 超平面w,b关于样本点x