SVM实验报告教案.doc

SVM分类算法 数据源说明 数据源说远和理解： 采用的实验数据源为第6组：The Insurance Company Benchmark (COIL 2000) TICDATA2000.txt: 这个数据集用来训练和检验预测模型，并且建立了一个5822个客户的记录的描述。每个记录由86个属性组成，包含社会人口数据（属性1-43）和产品的所有（属性44-86 ）社会人口数据派生邮政编码“大篷车：政策” ，是目标变量。 TICEVAL2000.txt: 这个数据集是需要预测（ 4000个客户记录）的数据集。TICDATA2000.txt它具有相同的格式，。所有数据集制表符分隔。 TICTGTS2000.txt：最终的目标评估数据。这是一个实际情况下的目标数据，将与我们预测的结果进行校验。我们的预测结果将放在result.txt文件中。 数据集理解：本实验任务可以理解为分类问题，即分为2类，也就是数据源的第86列，可以分为0、1两类。我们首先需要对TICDATA2000.txt进行训练，生成model，再根据model进行预测。 数据清理 代码中需要对数据集进行缩放的目的在于： 避免一些特征值范围过大而另一些特征值范围过小； 避免在训练时为了计算核函数而计算内积的时候引起数值计算的困难。因此，通常将数据缩放到?[ -1,1]?或者是?[0,1]?之间。 svm算法说明 LIBSVM软件包是台湾大学林智仁(Chih-Jen Lin)博士等用C++实现的SVM库，并且拥有matlab,perl等工具箱或者代码,移植和使用都比较方便.它可以解决分类问题(包括C-SVC、n-SVC)、回归问题(包括e-SVR、n-SVR)以及分布估计(one-class-SVM )等问题，提供了线性、多项式、径向基和S形函数四种常用的核函数供选择，可以有效地解决多类问题、交叉验证选择参数、对不平衡样本加权、多类问题的概率估计等。 在源程序里面，主要由以下2个函数来实现：(1) struct svm_model *svm_train(const struct svm_problem *prob, const struct svm_parameter *param);该函数用来做训练，参数prob，是svm_problem类型数据，具体结构定义如下：struct svm_problem //存储本次参加运算的所有样本(数据集)，及其所属类别。{int n; //记录样本总数double *y; //指向样本所属类别的数组struct svm_node **x; //指向一个存储内容为指针的数组};其中svm_node的结构体定义如下：struct svm_node //用来存储输入空间中的单个特征{int index; //输入空间序号，假设输入空间数为mdouble value; //该输入空间的值};所以，prob也可以说是问题的指针，它指向样本数据的类别和输入向量，在内存中的具体结构图如下： 图1.1LIBSVM训练时，样本数据在内存中的存放结构只需在内存中申请n*(m+1)*sizeof(struct svm_node)大小的空间，并在里面填入每个样本的每个输入空间的值，即可在程序中完成prob参数的设置。参数param，是svm_parameter数据结构，具体结构定义如下：struct svm_parameter // 训练参数{int svm_type; //SVM类型，int kernel_type; //核函数类型int degree; /* for poly */double gamma; /* for poly/rbf/sigmoid */double coef0; /* for poly/sigmoid *//* these are for training only */double cache_size; /* in MB 制定训练所需要的内存*/double eps; /* stopping criteria */double C; /* for C_SVC, EPSILON_SVR and NU_SVR ，惩罚因子*/int nr_weight; /* for C_SVC 权重的数目*/int *weight_label; /* for C_SVC 权重，元素个数由nr_weight 决定*/double* weight; /* for C_SVC */double nu; /* for NU_SVC, ONE_CLASS, and NU_SVR */double p; /* for EPSILON_SVR */int shrinking; /* use t