SVM-支持向量机算法概述-1解决方案.pptVIP

得 ： δ=||w||δ几何 几何间隔与||w||是成反比的，因此最大化几何间隔与最小化||w||完全是一回事。 常用的方法并不是固定||w||的大小而寻求最大几何间隔，而是固定间隔（例如固定为1），寻找最小的||w||。 求一个函数的最小值（或最大值）的问题都可以称为寻优问题（也叫作一个规划问题），又由于找最大值的问题总可以通过加一个负号变为找最小值的问题，因此下面讨论针对找最小值的过程来进行。一个寻优问题最重要的部分是目标函数，就是指寻优的目标。 目标函数 例如寻找最小的||w||这件事，就可以用下面的式子表示： 但实际上对于这个目标，常常使用另一个完全等价的目标函数来代替，那就是： 不难看出当||w||2达到最小时，||w||也达到最小，反之亦然。 这个式子是否能描述我们的问题呢？ 我们的问题是有一堆点，可以被分成两类，我们要找出最好的分类面。 如果直接来解这个求最小值问题，很容易看出当||w||=0的时候就得到了目标函数的最小值。但是无论给什么样的数据，都是这个解。反映在 图中，就是H1与H2两条直线间的距离无限大，这个时候，所有的样本点（无论正样本还是负样本）都跑到了H1和H2中间。而我们原本的意图是，H1右侧的 被分为正类，H2 左侧的被分为负类，位于两类中间的样本则拒绝分类（拒绝分类的另