Chapter-8.-分类与预测-2.pptVIP

* * * * * * * * * 支持向量机 上节所得到的最优分类函数为： 该式只包含待分类样本与训练样本中的支持向量的内积运算，可见,要解决一个特征空间中的最优线性分类问题,我们只需要知道这个空间中的内积运算即可。 ?对非线性问题, 可以通过非线性变换转化为某个高维空间中的线性问题, 在变换空间求最优分类面. 这种变换可能比较复杂, 因此这种思路在一般情况下不易实现. * * 支持向量机 * * 核函数的选择 * * SVM方法的特点 ①?非线性映射是SVM方法的理论基础,SVM利用内积核函数代替向高维空间的非线性映射; ②?对特征空间划分的最优超平面是SVM的目标,最大化分类边际的思想是SVM方法的核心; ③?支持向量是SVM的训练结果,在SVM分类决策中起决定作用的是支持向量。 ?SVM 是一种有坚实理论基础的新颖的小样本学习方法。它基本上不涉及概率测度及大数定律等,因此不同于现有的统计方法。从本质上看,它避开了从归纳到演绎的传统过程,实现了高效的从训练样本到预报样本的“转导推理”(transductive inference) ,大大简化了通常的分类和回归等问题。 * * SVM方法的特点 SVM 的最终决策函数只由少数的支持向量所确定,计算的复杂性取决于支持向量的数目,而不是样本空间的维数,这在某种意义上避免了“维数灾难”。 ?少数支持向量决定了最终结果,这不但