神经网络及应用第六章支持向量机.pdfVIP

第6章 支持向量机(SVM) 6.1 支持向量机的基本思想 支持向量机的基本思想 单层感知器能够解决线性可分问题，但是对于 非线性支持向量机 线性可分数据，不能够保证产生的超平面是最 优的。 支持向量机的学习算法 支持向量机建立的分类超平面能够在保证分类 支持向量机设计应用实例 精度的同时，使超平面两侧的空白区域最大 化，从而实现对线性可分问题的最优分类。 6.1 支持向量机的基本思想 6.1 支持向量机的基本思想 6.1.1 最优超平面 由 W T X +b 0 定义的超平面与最近的样本点之间的间隔称为分 1 1 2 2 p p P P 离边缘，用 ρ表示。 考虑P个线性可分样本{(X ,d ), (X ,d ) ,…, (X ,d ) ,…, (X ,d ) }， 对于任一输入样本Xp p 支持向量机的目标是找到一个分离边缘最大的超平面，即最优超 ，其期望输出为d = ±1，分别代表两类的类 别标识。 平面。 用于分类的超平面为： T T W X +b 0 W X +b 0 0 0 式中，X 为输入向量，W为权值向量，b为偏置，相当于负阈值 (b=-T) ，则有 W T X +b 0, if d p =+1 W T X +b 0, if d p =−1 1 6.1 支持向量机的基本思想 6.1 支持向量机的基本思想 样本空间任一点到最优