《模式识别原理、应用及实现》 课件 4.8 SVM-2.pptxVIP

4.7支持向量机（SVM）

4.7.3软间隔（松弛）

4.7.3软间隔（松弛）??0:正则化参数????——代价，我们要最小化代价函数（总代价）——正则项，对分类器进行限制，使复杂度不至于太高引入惩罚项，目标函数改写为：

4.7.3软间隔（松弛）对偶形式仅依赖于内积SVM的对偶性

4.7.4非线性SVMs

4.7.4非线性SVMs

最后得到决策函数可得在求得最优化问题的解4.7.4非线性SVMs

4.7.4非线性SVMs

目前研究最多的核函数主要有三类：多项式内核径向基函数内核RBFSigmoind内核4.7.4非线性SVMs

4.7.5结构风险最小化结构风险最小化的思想认为，真实风险?应该由两部分内容刻画，一是经验风险，代表了分类器在给定样本上的误差；二是置信风险代表了在多大程度上可以信任分类器在未知文本上分类的结果。结构风险中包含的经验风险和置信风险，可以理解成训练误差和模型复杂度的问题。经验风险是模型在已有样本上的误差，置信风险中利用VC维对模型的复杂度进行度量，并希望能够尽量降低复杂度，增加模型的泛化能力。