数据挖掘基础及其应用 课件 第5章 分类Ⅱ支持向量机.pptx

第5章 分类Ⅱ:支持向量机;5.1 引 言;　　SVM 的发展史分为三个阶段:出现阶段、拓展阶段和大规模应用阶段。　　(1)出 现 阶 段。　　(2)拓展阶段。　　(3)大规模应用阶段。;　　SVM 备受关注,其主要原因包括:　　(1)SVM 是一种有坚实理论基础的学习方法。它基本上不涉及概率测度及大数定律等,因此不同于现有的统计方法。　　(2)对特征空间划分的最优超平面是SVM 的目标,最大化分类边际的思想是SVM 方法的核心。　　(3)支持向量是SVM 的训练结果,在SVM 分类决策中起决定作用的是支持向量。　　(4)SVM 的最终决策函数只由少数的支持向量确定,计算的复杂性取决于支持向量的数目,而不是样本空间的维数,这在某种意义上避免了“维数灾难”,可解决高维问题。　　;　　(5)非线性映射是SVM 方法的理论基础,SVM 利用内积核函数代替向高维空间的非线性映射。　　(6)SVM 的学习算法是求解凸二次规划的最优化算法,可以避免神经网络结构选择和局部极小的问题。;5.2 数 学 模 型;;　　SVM 的基本思想:　　(1)在线性可分的情况下,在原空间寻找两类样本的最优分类超平面。　　(2)通过使用结构风险最小化原理在属性空间构建最优分类超平面,使得分类器达到全局最优,并使整个样本空间的期望风险以某个概率满足一定上界。　　SVM 的原理图如