LibSVM笔记系列——如何提升LibSVM分类效果.docxVIP

LibSVM笔记系列——如何提升LibSVM分类效果时间?2013-07-18 20:30:37??CSDN博客原文??/xiahouzuoxin/article/details/9372805===============================================================================?1. svm-scale的使用?===============================================================================?[monkeyzx@CentOS libsvm-3.14]$ ./svm-scale?Usage: svm-scale [options] data_filename?options:?-l lower : x scaling lower limit (default -1)?-u upper : x scaling upper limit (default +1)?-y y_lowery_upper : y scaling limits (default: no y scaling)?-s save_filename : save scaling parameters to save_filename?-r restore_filename : restore scaling parameters from restore_filename?自己使用matlab写的归一化函数为?function x = scale(x, bound, col)?% bound:: [bminbmax]?% x :: input matrix???if nargin 3???? col = 0;?end?bmin = bound(1);?bmax = bound(2);?if col == 0???? for i = 1:size(x,1)???????????? xmin = min(x(i,:));???????????? xmax = max(x(i,:));??? ????????????? x(i,:) = bmin + (bmax-bmin) * ((x(i,:)-xmin) / (xmax-xmin));???? end?else???? for i = 1:size(x,2)???????? xmin = min(x(:,i));???????? xmax = max(x(:,i));??? ????????? x(:,i) = bmin + (bmax-bmin) * ((x(:,i)-xmin) / (xmax-xmin));??? ????? end?end???end?===============================================================================?2. 实际使用LibSVM的步骤?===============================================================================?为提高实际分类的精度和泛化能力，希望在使用LibSVM时至少按照以下步骤考虑：?（1）对数据归一化，如果数据都为正数则一般归一到[0,1]，否则一般归一到[-1,1]?（2）在没特殊要求前提下，考虑使用RBF核函数K(x,y)=exp{-gamma|x-y|^2}?（3）在训练时使用交叉验证，并使用GirdSearch寻找最佳的参数C和gamma?（4）尽量对训练集数据集整体训练?（5）使用测试数据测试模型的分类效果?===============================================================================?3. 关于交叉验证(CrossValidation，简称CV)?===============================================================================?CV是用来验证分类器的性能一种统计分析方法,基本思想是把在某种意义下将原始数据(dataset)进行分组,一部分做为训练集(train set),另一部分做为验证集(validation set),首先用训练集对分类器进行训练,在利用验证集来测试训练得到的模型(model),以此来做为评价分类器的性能指标.?常见的交叉验证方法有：?1).Hold-Out Method?将原始数据随机分为两组,一组做为训练集,一组做为验证集,利用训练集训练分类器,然后利用验证集验证模型,记录最后的