支持向量机二-拉格朗日对偶问题.docxVIP

支持向量机SVM ---拉格朗日乘子一 参考文档周志华《机器学习》郑洁的 《机器学习》李航 《统计学习方法》一 前言 通过上一章，我们得到SVM求解的问题 那如何根据输入的训练参数 获得w, b 呢，这里通过拉格朗日对偶问题求解这个问题，并给出算法推导过程二 拉格朗日对偶问题 上面的问题，可以通过拉格朗日对偶变换，找到更有效的求解方案 式1L对w, b分别求偏导数式2把 式2带入式一可得到四 求解问题简化 上面当a = 0 的时候， f(x) 为无效， a0 的时候， yif(Xi) -1 =0 必定是一个支持向量机五 分类器函数 六 例子 如图上 ，A,B, C三点通过拉格朗日对偶问题求出答案Step 1 KKT 条件