第二讲支持向量机.pptVIP

第二讲 支持向量机技术 二分类问题 支持向量机的模型 支持向量机的特色 支持向量机的求解 支持向量机的变形 二分类问题 二分类问题：根据给定的训练集， 其中 要求寻找 上的决策函数 以便能用决策函数 “较好地”推断任一模式相对应的 值。 支持向量机模型 线性可分情形 线性近似可分情形 线性不可分情形 小结 线性可分情形：最大间隔原理 近似线性可分情形 线性不可分情形（1） 线性不可分情形（2） 线性不可分情形（3）—对偶模型 支持向量机的建模小结 支持向量机的特色 用间隔定量地定义了置信风险：间隔越大，置信风险越小，间隔越小，置信风险越大 用参数C实现了经验风险与置信风险的折中 最优分类超平面只由少数支持向量决定，问题具有稀疏性 模型为凸二次规划模型，没有陷入局部最优解的问题，任何局部最优解都是全局最优解 通过使用核方法，具备了强大的非线性处理能力 支持向量 支持向量机模型的求解 任何求解凸二次规划问题的算法； 大规模问题时：序贯最小最优化算法(Sequential Minimal Optimization,SMO) SMO算法 C-SVC模型当Lagrange乘子只有2个时，可以求得它的解析解。 每次选择两个训练点，求出它的解析解；训练点的选择标准是使得目标函数值下降得尽可能的多。 迭代的停止准则为所有训练点满足KKT条件。 二个La