机器学习SVM支持向量机实验报告.docxVIP

实 验 报 告 实验名称: 机器学习:线性支持向量机算法实现 学 员: 张麻子 学 号: *********** 培养类型: 硕士 年 级: 专 业: 所属学院: 计算机学院指导教员: ****** 职 称: 副教授 实 验 室: 实验日期: 一、实验目的与要求 实验目的:验证SVM(支持向量机)机器学习算法学习情况要求:自主完成。 二、实验内容与原理 支持向量机(Support Vector Machine, SVM)的基本模型就是在特征空间上找到最佳的分离超平面使得训练集上正负样本间隔最大。SVM 就是用来解决二分类问题的有监督学习算法。通过引入了核方法之后SVM 也可以用来解决非线性问题。 但本次实验只针对线性二分类问题。 SVM 算法分割原则:最小间距最大化,即找距离分割超平面最近的有效点距离超平面距离与最大。 对于线性问题: 假设存在超平面可最优分割样本集为两类,则样本集到超平面距离为: 需压求取: 由于该问题为对偶问题,可变换为: 可用拉格朗日乘数法求解。 但由于本实验中的数据集不可以完美的分为两类,即存在躁点。可引入正则化参数Ｃ,用来调节模型的复杂度与训练误差。 作出对应的拉格朗日乘式: 对应的ＫＫＴ条件为: 故得出需求解的对偶问题: 本次实验使用python 编译器,编写程序,数据集共有２７０个案例,挑选其中70% 作为训练数据,剩下 30%作为测试数据