支持向量机引导.pptVIP

哈尔滨理工大学网络信息中心 支持向量机引导 孙宗宝 2006年12月20日 支持向量机引导 孙宗宝 2006年12月20日 内容提要 概述 线性可分情况理论 线性不可分情况 支持向量机模型 核函数 支持向量机网络 SVM简介 90年代中期在统计学习理论的基础上发展起来的一种机器学习方法 (Boser,Guyon,Vapnik) 适合有限样本(小样本)问题 在很大程度上解决了传统方法（如神经网络）中存在的问题，如过学习、非线性、多维问题、局部极小点问题等 统计学习理论和支持向量机被视为机器学习问题的一个基本框架，传统的方法都可以看作是SVM方法的一种实现 有坚实的理论基础和严格的理论分析 概述 一、向量的内积与超平面 概述 二、 最优分类平面 概述 二维数据最优分类线的基本要求： 1、要能将两类样本无错误的分开 即使经验风险最小，理论上为零 2、要使两类之间的距离最大 概述 我们要做的是什么呢？ 找到一个超平面(最优分类面)，使得它能够尽可能多的将两类数据点正确的分开，同时使分开的两类数据点距离分类面最远。 SVM原理之线性可分 设线性可分样本集为(xi, yi), i=1,2,…,n,x∈Rd, y∈{+1,-1}是类别标号。 则d维空间中线性判别函数的一般形式为: