大数据十大经典算法svm讲解ppt.pptVIP

Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile . Copyright 2004-2011 Aspose Pty Ltd. 1、监督学习、非监督学习 2、机：在机器学习领域，常把一些算法看做是一个机器，如分类机(当然，也叫做分类器) 3、通过寻求结构化风险最小来提高学习机泛化能力，实现经验风险和置信范围的最小化，从而达到在统计样本量较少的情况下，亦能 获得良好统计规律的目的。 图为：线性分类的例子。用一个超平面将不同类别的数据分开。 通俗的说：找到一个最宽的直线，将类别分开，超平面为直线的中心线。 类间间隔最大 - 结构风险最小 - 泛化能力强 解释 支持向量所在平面方程 为什么为+1，-1. ai有许多为0 到这个形式以后，就可以很明显地看出来，它是一个凸优化问题，或者更具体地说，它是一个二次优化问题——目标函数是二次的，约束条件是线性的。 通过给每一个约束条件加上一个 Lagrange multiplier(拉格朗日乘值)，即引入拉格朗日对偶变量α，如此我们便可以通过拉格朗日函数将约束条件融和到目标函数里去 当某个约束条件不满足时，例如?yi(wTxi+b)1，那么我们显然有?θ(w)=∞（只要令?αi=∞?即可）。而当所有约束条件都满足时，则有?θ(w)=12∥w∥2?，亦即我们最初要最小化的量。因此，在要求约束条件得到满足的情况下最小化?1/2 *∥w∥^? 实际上等价于直接最小化?θ(w)??? ? 原问题 -》 二次凸优化问题（已有很好的体系来解决此类问题） -》 对偶问题（将约束条件加入到目标函数内） -》 SMO优化问题（可以省略） 具体细节见 参考资料 内积 ，为核函数引入奠定基础。 R5空间无法显示，动态图为映射到R3空间的效果。 数据挖掘十大算法之 SVM 小组成员： 杨凌云、徐小江、刘洁 刘家旺、吕佳艳、伍俊 2013年10月 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile . Copyright 2004-2011 Aspose Pty Ltd. 分类 概念： 通过构造一个分类函数或分类器的方法，该方法能把数据库中的数据项映射到给定类别中的某一个，从而可以用于预测未知数据。 数据： 线性可分 线性不可分 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile . Copyright 2004-2011 Aspose Pty Ltd. 什么是SVM 全名：Support Vector Machine（支持向量机） 支持向量：支持或支撑平面上把两类类别划分开来的超平面的向量点。 机：一个算法 基于统计学习理论的一种机器学习方法。简单的说，就是将数据单元表示在多维空间中，然后对这个空间做划分的算法。 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile . Copyright 2004-2011 Aspose Pty Ltd. SVM的特点 SVM是建立在统计学习理论的VC维理论和结构风险最小原理基础上的，根据有限的样本信息在模型的复杂性之间寻求最佳折衷，以期获得最好的推广能力（或泛化能力）。 核函数 松弛变量 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile . Copyright 2004-2011 Aspose Pty Ltd. 线性分类 1 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile . Copyright 2004-2011 Aspose Pty Ltd. 线性分类 1 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile . Copyright 2004-2011 Aspose Pty Ltd. 线性分类 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile . Copyright 2004-2011 Aspose Pty Ltd. 问题 1. 如何求得最优的g(x)？ 2. 最优的标准是什么？ 3. g(x)