ENVI4.3 支持向量机分类原理操作及实例分析.pdfVIP

航天星图科技 （北京）有限公司 ENVI4.3 支持向量机分类原理、操作及实例分析 一、支持向量机算法介绍 1. 支持向量机算法的理论背景 支持向量机分类（Support Vector Machine 或SVM ）是一种建立在统计学习 理论（Statistical Learning Theory 或SLT ）基础上的机器学习方法。 与传统统计学相比，统计学习理论 （SLT ）是一种专门研究小样本情况下及 其学习规律的理论。该理论是建立在一套较坚实的理论基础之上的，为解决有限 样本学习问题提供了一个统一的框架。它能将许多现有方法纳入其中，有望帮助 解决许多原来难以解决的问题，如神经网络结构选择问题、局部极小点问题等； 同时，在这一理论基础上发展了一种新的通用学习方法——支持向量机 （SVM ）， 已初步表现出很多优于已有方法的性能。一些学者认为，SLT 和SVM 正在成为继 神经网络研究之后新的研究热点，并将推动机器学习理论和技术的重大发展。 支持向量机方法是建立在统计学习理论的VC 维（VC Dimension ）理论和结 构风险最小原理基础上的，根据有限的样本信息在模型的复杂性（即对特定训练 样本的学习精度）和学习能力（即无错误地识别任意样本的能