13模式识别第十三章统计学习理论与支持向量机.pptVIP

10.4.3 支持向量机 支持向量机的数学表达 最优分类的优化函数 与最优分类函数 表达式中都含有内积运算 如果将表达式中的内积运算由内积函数来代 替，将原来的特征空间作非线性变换，则 优化函数成为 最优分类函数成为 则称为支持向量机。 支持向量机的基本思想 使用非线性的内积函数， 将输入空间作非线性变换，变换到一个高维 空间，然后在高维空间中确定最优分类面。 非线性变换是由内积函数 实现的。 支持向量机的拓扑结构 支持向量机的拓扑结构 类似一个RBF神经网络。 输入层： 中间层： 基于s个支持向量 的内积变换 输出层：（决策规则） 加权系数： 常用的内积函数 不同的内积函数表现为不同的支持向量机 算法，常用的内积函数有以下几类 （1）多项式内积函数 （2）高斯核内积函数 （3）S型内积函数 （4）指数型内积函数 （5）线性内积函数 线性内积函数，是内积函数的一个特例。 例题 样本集合如图所示。4个样本 其中x1 x2， 属于第1类，y1=+1 其中x3 x4， 属于第2类，y2=-1 由优化函数 代入展开 利用最优化条件（1） 并对Q求偏导， 得到方程组 解方程组得到： 显然x1不是支持向量，乘子?1=0 ，其余样本 构成支持向量，乘子不为零。 利用最优化条件（2）， 计算最优加权系数向量w*，为样