支持向量机在风险评估的运用实例--by-Seven.docVIP

支持向量机方法在风险评估的运用OK 一、支持向量机介绍 支持向量机(support vector machines)是由贝尔实验室研究者Vapnik于20世纪90年代最先提出的一种新的机器学习理论，是建立在统计学习理论的VC维理论和结构风险最小原理基础上的，根据有限的样本信息在模型的复杂性和学习能力之间寻求最佳折衷，以期获得最好的推广能力。支持向量机从诞生至今才10多年，发展史虽短，但其理论研究和算法实现方面却都取得了突破性进展，有力地推动机器学习理论和技术的发展。这一切与支持向量机具有较完备的统计学习理论基础的发展背景密不可分。统计学习理论领域里把学习问题看作是利用有限数量的观测来寻找待求的依赖关系的问题。而基于数据的机器学习问题，则是根据已知样本估计数据之间的依赖关系，从而对未知或无法测量的数据进行预测和判断。支持向量机方法是统计学习理论中最年轻的部分，目前仍处于不断发展阶段。支持向量机是从线性可分情况下的最优分类面发展而来的。其基本思想可用图3-3的两维情况说明。 图3-3：支持向量机的分类面 图3-3中，实心点和空心点代表两类样本，H为分类线，H1、H2分别为过两类中离分类线最近的样本且平行于分类线的直线，它们之间的距离叫做分类间隔。所谓最优分类线就是要求分类线不但能将两类样本正确分开（训练错误率为0），而且使分类间隔最大，右图的H即为最优分类线。分类线方程可以表示为x·w