SVM 简易入门分析和总结.pdfVIP

piaip 的 (lib)SVM 简易入门 piaip at csie dot ntu dot edu dot tw, Hung-Te Lin Fri Apr 18 15:04:53 CST 2003 $Id: svm_tutorial.html,v 1.11 2003/05/15 12:39:09 r91034 Exp r91034 $ 原作：林弘德，转载请保留原出处 Why this tutorial here 我一直觉得 SVM 是个很有趣的东西，不过也一直没办法 (mostly 冲堂) 去听林智仁老师 的 Data mining 跟 SVM 的课； 后来看了一些网络上的文件跟听 kcwu 讲了一下 libsvm 的用法后，就想整理 一下，算是对于并不需要知道完整 SVM 理论的人提供使用 libsvm 的入门。原始 libsvm 的 README 跟 FAQ 也是很好的文件， 不过你可能要先对 svm 跟流程有点了解才看得懂 (我在看时有这样的感 觉) ； 这篇入门就是为了从零开始的人而写的。 后来还有一些人提供意见，所以在此要感谢： kcwu, biboshen, puffer, somi 不过请记得底下可能有些说法不一定对，但是对于只是想用 SVM 的人来说我觉得这样说明会比较 易懂。 这篇入门原则上是给会写基本程序的人看的，也是给我自己一个备忘, 不用太多数学底子，也不 用对 SVM 有任何先备知识。 还看不懂的话有三个情形, 一是我讲的不够清楚, 二是你的常识不足, 三是你是小白 ^^; 我自己是 以完全不懂的角度开始的，这篇入门也有不少一样不懂SVM 的人 看过、而且看完多半都有一定程度 的理解，所以假设情况一不会发生， 那如果不懂一定是后两个情况 :P 也所以, 有问题别问我。 SVM: What is it and what it can do for me? SVM, Support Vector Machine , 简而言之它是个起源跟类神经网络有点像的东西， 不过现今最常 拿来就是做分类 (classification)。 也就是说，如果我有一堆已经分好类的东西 （可是分类的依据是未 知的！） ，那当收到新的东西时， SVM 可以预测 (predict) 新的数据要分到哪一堆去。 听起来是很神奇的事（如果你觉得不神奇，请重想一想这句话代表什么：分类的依据是未知的！，还 是不神奇的话就请你写个程序 解解看这个问题），也很像要 AI 之类的高等技巧... 不过 SVM 基于 统 计学习理论 可以在合理的时间内漂亮的解决这个问题。 以图形化的例子来说明(by SVMToy), 像假定我在空间中标了一堆用颜色分类的点, 点的颜色就是 他的类别, 位置就是他的数据, 那 SVM 就可以找出区隔这些点的方程式, 依此就可以分出一区区的区 域; 拿到新的点(数据) 时, 只要对照该位置在哪一区就可以(predict) 找出他应该是哪一颜色(类别) 了: 原始资料分布 SVM 找出来的区域 1 当然 SVM 不是真的只有画图分区那么简单, 不过看上面的例子应该可以了解 SVM 大概在作什 么. 要对 SVM 再多懂一点点，可以参考 cjlin 在 data minin 课的 slides: pdf or ps 。底下我试着在不 用看那个 slide 的情况 解释及使用 libsvm。 所以, 我们可以把 SVM 当个黑盒子, 数据丢进去让他处 理然后我们再来用就好了. How do I get SVM? 林智仁(cjlin)老师的 libsvm 当然是最完美的工具. Download libsvm 下载处: libsvm.zip or libsvm.tar.gz .zip 跟 .ta