机器学习SVM实验报告.docxVIP

实验报告 实验名称：机器学习：线性支持向量机算法实现 学员：张麻子学号：*********** 培养类型：硕士年级： 专业：所属学院：计算机学院指导教员：******职称：副教授实验室：实验日期： 一、实验目的和要求 实验目的：验证SVM(支持向量机)机器学习算法学习情况要求：自主完成。 二、实验内容和原理 支持向量机(SupportVectorMachine,SVM)的基本模型是在特征空间上找到最佳的分离超平面使得训练集上正负样本间隔最大。SVM是用来解决二分类问题的有监督学习算法。通过引入了核方法之后SVM也可以用来解决非线性问题。 但本次实验只针对线性二分类问题。 SVM算法分割原则：最小间距最大化，即找距离分割超平面最近的有效点距离超平面距离和最大。 对于线性问题： wTx+b=0 假设存在超平面可最优分割样本集为两类，则样本集到超平面距离为： I|wTx+b|a p=min(}=7—77l|w||l|w|| 需压求取： maxI,a,s.t.yj(wTx+b)a 由于该问题为对偶问题，可变换为： min|||w||2s.t.yj(wTx+b)1 可用拉格朗日乘数法求解。 但由于本实验中的数据集不可以完美的分为两类，即存在躁点。可引入正则化参数c,用来调节模型的复杂度和训练误差。 minlllwI^+C^EjS.t.Vi(WTX+b)1-Ej0 作出对应的拉格朗日乘式： 如