支持向量机在金刚石预测中的应用初探.pdfVIP

支持向量机在金刚石预测中的应用初探 李曼，张志勇 (东华理工学院核工程技术学院，江西抚州344000) 摘要：基于统计学习理论的支持向量机是20世纪90年代发展起来的机器学习技术，它在 解决小样本、非线性和高维模式识别问题中表现出特有优势。金刚石预测需了解矿体地质环境、遥 感、物化探异常、指示物等多方面特征，利用SVM构建非线性函数，对金刚石进行预测，效果良好。 关键词：统计学习，支持向量机，金刚石预测 -_●‘·1●- 刖吾 统计学习理论是Vapnik等人提出的一种小样本学习理论，着重研究在小样本情况下的统计规律 及学习方法性质。支持向量机是在统计学习理论的VC维理论和结构风险最小化原则基础上发展起 来的。由于采用结构风险最小化原则代替经验风险最小化原则，较好的解决了小样本学习的问题； 又由于采用了核函数的思想，能把非线性空间的问题转换到线性空间，降低了算法的复杂性。因此， 支持向量机在很人程度上解决了模型选择、过学习、非线性、维数灾难等问题。正因为它具有完备 的理论基础和出色的学习性能，该技术已成为目前模式识别领域中最先进的机器学习方法，并在遥 感分析、图像处理、语音识别等领域均得剑了成功应用。 支持向量机在地球物理方面的麻用处于起步阶段，在地震预报、油气预测和资料的信号去 噪方面均有报导，本文将支持向量机应刚到金刚石预测中，拓展了其应用空间。 机器学习问题 机器学习问题的基本模型，可以．}{j图1表示，其中系统S是研究的对象，它在给定一定输入工下 得到一定的输出Y。LM就是所求的学习机，输出为夕。 幽l 机器学习的基本模型 机器学习的目的是根据给定的训练样本求对某系统输入输出之间依赖关系的估计，使它能够对 未知输出作出尽可能准确的预测。 把函数集S=∥O，w)，W∈Q)分解为一个函数子集序列(或叫子集结构)， c c人ccAcS Sj S2 S 使各个子集能够按照中即vc维的人小排列， ^s％≤人≤以-A 在每一个子集中寻找最小经验风险，通常它随着子集复杂度的增加而减小。选择最小经验风险 与置信范围之和最小的子集，就可以达剑期望风险的最小，使经验风险最小的函数就是要求的最优 RiskMinimization)， 函数。如图2，这种思想称作有序风险最小化或结构风险最小化(Structural 简称SRM原则。 一：二 荫敲蹇子集：SlCSjC．SI VC维Ihl‘毛‘矗． 图2结构风险最小化示意图 支持向鼙机 S、『M是从线性可分情况下的最优分类面发展而来的，基本思想可用图3说明。图中，实心点和空 心点代表两类样本，月为把两类没有错误的分开的分类线，Ⅳ，，H，分别为过各类中离分类线最近 的样本且平行于分类线的直线，它们之间的距离叫做分类问隔(margin)。所谓晟优分类线就是要求 分类线不但能将两类正确分开，而且要使分类间隔最人。推J“剑高维，最优分类线就成为最优分类 面。 图3最优分类血水总图 函数的一般形式为 g(力=w·x+6 分类面方程为jr·w+b=0 其中，w为分类面的法线，b决定相对原点的位簧。将判别函数进行归一化，使两类所有样本 都满足Ig(x)陲1，即使离分类面最近的样本的Ig(x)}1，则对于所有样本有下式成立： (w。而)+b≥+l’Yt=+1(w·t)+b≤一1Yi=一1 从图中可以看出，超平面(w．咖6=+瑚离原点的鼋直距离为爿，丽超平面 w ，这样分类间隔就等于南，因此使间隔最大等价于 (w㈨+b=-I距离原点的距离为幽11II w 使