检验集选取参数建立SVM模型确定核函数-Read.pptVIP

处理非线性分类和回归的新方法—支持向量机方法(SVM) （Support Vector Machine） 支持向量机方法(SVM)简介 （Support Vector Machine） 机器学习问题的提法 利用有限数量的观测来 寻求待求的依赖关系 训练样本集： 基于训练,从给定的函数集f (x,?), ?∈? 中选出最好逼近训练器响应的函数来 模式识别问题的图示 SVM的基本思路 通常习惯于把样本降维（向低维空间做投影）化简问题 通常采用线性化手段。（如取对数） SVM方法是把样本点“升维”，即映射到高维甚至无穷维空间，再在高维空间中采用处理线性问题的方法。 映射是非线性的，从而解决样本空间中的高度非线性问题。 升维的图示 非线性映射的图示 线 性 分 类 机 二类划分： 1.线性可划分 2.线性不可分 多类划分 支持向量机 模式识别 Support Vector Machines for Pattern Recognition 划分超平面区域 假定训练数据 可以被一个超平面 分开。 如果这个向量集合被超平面没有错误地分开， 并且距离超平面最近的向量与超平面之间的距离是最大的，则我们说这个向量集合被这个最优超平面（或最大间隔超平面）分开（如图1）。 位于 和 上的向量就称为支持向量。 SVM的本质优点 传统的统计方法只有在样本数趋向无穷大时其性能才有理论上的保证。对于应用中的有限样本难以取得理想的效果。SVM方法是一种小样本学习方法。 SVM可以给出学习结果的推广能力的界。 SVM是一种处理非线性分类和非线性回归的有效方法。 SVM方法的计算量与样本向量的维数几乎无关，这在某种意义上避免了“维数灾”。 SVM常用核 多项式核 (维数等于 ） K(x,y)= (a(x·y)+b)d RBF核 K(x,y)= exp(-?||x-y||2) 双曲正切核 K(x,y)= tanh(a(x·y)+b) 不同核函数建立的SVM模型对结果的影响及特征比较 同一核函数下不同参数建立的SVM模型的特征变化 SVM应用于降水分类预报的试验 四川盆地面雨量的SVM建模与预报检验 预报对象： 由于单站降水的不确定性较大，因此，采用面雨量做为预报对象。 考虑四川盆地降雨的气候特点，将四川省内盆地部分划分为三个片区： 盆地西北部（1）、 盆地东北部（2）、 盆地西南部（3）， 分别作为预报对象进行试验 预报因子： 影响降水量的因子主要是大气环流和外界强迫，考虑资料长度和目前台站使用资料的状况，我们选用 ECMWF 500hPa高度、 850hPa温度、 地面气压 的0小时输出产品资料来构造预报因子。 针对四川盆地的降水影响系统和要素特征，我们在不同的层次选取不同的区域来构造因子，尽量以数字化形式来描述系统及要素的演变 资料长度： 1990—2000年4—9月 共11年的历史资料 建模方式： 确定核函数 归一化因子 将预报对象进行分类 将预报因子和预报对象进行整理，分为三部分： 训练集、测试集、检验集  选取参数建立SVM模型 确定核函数 我们以径向基函数（满足Mercer定理）做为SVM中内积的回旋函数建立推理模型。径向基函数采用下面的决策规则集合： （3） 其中 依赖于两个向量之间的距离 。 对任意固定的r，函数 是一个非负的单调函数，当 趋于无穷大时，其值趋于零。这种类型的函数中最常用的是 。要构造（3）式的决策规则，就需要估计： 参数r的值；中心 的数目N；描述各中心的向量 ； 参数 的值。 这四种类型的参数都是通过控制泛函的参数来最小化测试错误概率的界确定。 将预报对象进行