_支持向量机_分类.pptVIP

智能信息处理技术 华北电力大学 第6章 支持向量机简介 6.1、引言 支持向量机（Support Vector Machine，简称SVM）是在统计学习理论的基础上发展起来的一种新的机器学习方法，它是建立在统计学习理论的VC维理论和结构风险最小化原则上的，避免了局部极小点（支持向量机算法是一个凸二次优化问题，能够保证找到的极值解就是全局最优解），并能有效地解决过学习问题，具有良好的推广性能和较好的分类精确性（由有限训练样本得到的决策规则对独立的测试集仍能够得到小的误差）。 支持向量机在解决小样本、非线性及高维模式识别问题中表现出的许多特有的优势，使它成为一种优秀的机器学习算法。目前，支持向量机已经成为国际上人工智能领域和机器学习领域新的研究热点。 第6章 支持向量机简介 6.2、基于二次规划的支持向量机分类 线性可分情况 先考虑二维情况下的线性可分的两类样本(○,×),如图所示,存在很多条可能的分类线能够将训练样本分开。显然分类线a最好，因为它更远离每一类样本，风险小。而其他的分类线离样本较近，只要样本有较小的变化，将会导致错误的分类结果。因此分类线a是代表一个最优的线性分类器。 所谓最优分类线就是要求分类线不但能将两类无误地分开，而且要使两类的分类间隔最大。图中H是最优分类线，H1和H2分别为过各类样本中离分类线最近的点且平行于分类线的直线，H1和H2之间的距离叫做两类的分