《数值分析》与《数学实验》专业实训.docVIP

XX学院 《数值分析》与《数学实验》专业实训 报 告 书 题 目 一种组合核函数支持向量机及其应用 院 系 名 称 数 学 与 物 理 系 专 业（班级） 姓 名 学 号 指 导 教 师 完 成 时 间  一、问题描述 V．N．Vapnik于1995年首先提出支持向量机，它是统计学习理论种最新也是最实用的内容，也是近年来机器学习研究的一项重大的成果。支持向量机的算法最终是将求最优分类面的问题转化为了一个约束条件下的二次优化的问题。 支持向量机采用核函数来实现从原输入空间到一个高维空间的非线性映射，采用不同的核函数将会导致不同的支持向量机。本文提出了组合核函数的支持向量机，实验结果表明这种新的核函数具有更好推广性能。 二、基本要求 1、支持向量机回归函数简介 ①、支持向量机回归函数svr 该函数根据训练样本设计最优回归函数，并找出支持向量。该函数有6个参数，分别是训练样本的输人、训练样本的输出、核函数、惩罚因子、损失函数和不敏感系数。输出参数为支持向量个数、拉格朗日乘子及偏置量。 其语法为： nSV，beta．bias I：SVF(X，Y，ker，C，loss，e) x一训练样本的输入 Y一训练样本的输出 ker一核函数 C一惩罚因子 loss一损失函数 e一不敏感系数 tlSX，一支持向量的个数 beta一拉格朗日乘子 bias一偏置量 ②、输出函数svroutput 该函数利用svr函数得到的最优回归函数来计算测试样本的输出，并返回。 ③、svrplot 该函数用来绘制出最优回归函数曲线，并标识出支持向量 ④、svrenor 该函数用来显示根据最优回归函数计算的测试样本的拟合误差。 ⑤、uiregress 该函数是一个具有简单图形用户界面的函数，可以用它方便地导人数据、选择损失函数、输入惩罚因子和e不敏感系数、显示最优回归函数曲线。对于非线性回归，还有输入核函数宽度系数等功能。 2、数据的导入方法 要利用SVM工具箱进行样本分类或数据回归，必须准备训练样本和测试样本。对样本数据的获取，可以通过如下方式进行数据的获取。具体采用哪种方法，取决于数据的多少，数据文件的格式等。 用元素列表方式直接输入数据。 创建数据文件，通过MATLAB提供的装载数据函数，从数据文件中渎取。函数load适合从MAT文件、ASCII文件中读取数据；MATLAB I／O函数适合从其它应用中的数据文件中读取数据； 还可以通过数据输入向导(Import Wizard)从文件或剪贴板中读取数据，单击File菜单下的“Import Data? ”将出现“Im—portWizard”窗口，通过该窗口进行设置，该方法不适合从M文件中读取数据。 3、支持向量机回归应用实例 利用SVM工具箱进行数据样本的回归时，不敏感系数、惩罚因子、核函数及其宽度参数对支持向量的个数和最优回归函数曲线的建立有很大影响。需要经过多次实验才能够确定使分类结果较好的参数。 下面通过一个非线性回归的例子来说明SVM支持向量回归的应用。在MATLAB中编写程序对sinc函数进行回归拟合。 在MATLAB中运行代码的程序，就可以得到相应的最优回归函数曲线如图2所示。从下图可以得知模型数据与实际数据几乎完全逼近。 三、源代码 %a nonlinear regression examp le load sinc1; sinc1 is a data file ker=erbf; %kernel function C = 5; % upper bound e = 0. 01; % insensitivty loss =einsensitive; % loss function [ nsv, beta, bias] = svr( trnX, trnY, ker, C, loss, e) ; svrp lot( trnX, trnY, ker, beta, bias, e) ; tstX = 0. 1; tstY = sinc ( tstX) ; % test samp le TstY = svroutput( trnX, tstX, ker, beta, bias) ; %output of the regression result of test samp le