第7章-支持向量机.pptxVIP

王静北京大学基于Python的机器学习应用

支持向量机第7章

支持向量机030201支持向量机（SupportVectorMachine）简称SVM，是常见的一种监督学习模型SVMSVM可应用于分类、回归分析及异常检测应用SVM在人脸识别、文本分类等问题中得到广泛应用。应用实例04

线性可分

支持向量和间距

线性不可分

通过核函数进行特征映射特征映射

SVM中最常用的核函数010203?线性核函数（Linearkernel）：?多项式核函数（Polynomialkernel）：?高斯径向基核函数（Radialkernel）：S型核函数（sigmoidkernel）：?

支持向量机优势030201有严格的数据理论依据做支撑，简化了通常的分类和回归问题。决策函数只依赖对任务至关重要的少数支持向量，而不是全部样本，进行分类，效率较高，一定程度可以避免“维数灾难”。采用核函数可以解决非线性问题。04对于高维数据有效，对于维数大于样本数目的情况同样有效。

支持向量机缺点030201训练时间长。当采用核函数时，如果需要存储核矩阵，则空间复杂度高，比较浪费存储空间。。采用SVM模型进行预测时，如果支持向量数量比较大，则预测计算复杂度较高。04支持向量机目前只适合小样本任务，无法适用于大数据量（百万甚至上亿样本）的任务。

SVM的分类方法案例010203fromsklearnimportsvm#初始化SVM分类器svc_classifier=svm.SVC()#采用训练数据训练SVM分类器svc_classifier.fit(X_train,y_train)#对测试样本进行预测y_pred=svc_classifier.predict(X_test)#用测试样本对模型进行评价svc_accuracy=svc_classifier.score(X_test,y_test)SVC算法：分类鸢尾花时分类结果：SVM分类器采用SVC实现的分类正确率为：98%

不同核函数鸢尾花分类正确率和运行时间svm.SVC(kernel=linear),svm.SVC(kernel=rbf’),svm.SVC(kernel=poly),svm.SVC(kernel=sigmoid)

不同核函数分类界面

SVM的分类方法案例010203fromsklearnimportsvm#初始化SVM分类器nusvc_classifier=svm.NuSVC()#采用训练数据训练SVM分类器nusvc_classifier.fit(X_train,y_train)#对测试样本进行预测y_pred=nusvc_classifier.predict(X_test)svc_accuracy=nusvc_classifier.score(X_test,y_test)#用测试样本对模型进行评分NuSVC算法：分类鸢尾花时分类结果：SVM分类器采用NuSVC实现的分类正确率为：97.777778%

采用不同核函数的NuSVC对鸢尾花数据进行分类svm.NuSVC(kernel=linear),svm.NuSVC(kernel=rbf),svm.NuSVC(kernel=poly),svm.NuSVC(kernel=sigmoid)

不同核函数分类界面

SVM的分类方法案例010203#初始化SVM分类器linearsvc_classifier=svm.LinearSVC()#采用训练数据训练SVM分类器linearsvc_classifier.fit(X_train,y_train)#对测试样本进行预测y_pred=linearsvc_classifier.predict(X_test)linearsvc_accuracy=linearsvc_classifier.score(X_test,y_test)#用测试样本对模型进行评分LinearSVC算法：分类鸢尾花时分类结果：SVM分类器采用LinearSVC实现的分类正确率为：93.333333%

采用不同核函数的NuSVC对鸢尾花数据进行分类svm.NuSVC(kernel=linear),svm.NuSVC(kernel=rbf),svm.NuSVC(kernel=poly),svm.NuSVC(kernel=sigmoid)

不同核函数分类界面

线性核SVM的分类界面

SVR回归应用案例

NuSVR回归应用案例

LinearSVR回归实现方法

SVM算法在异常监测中的应用

SVM实战——人脸识别

人脸识别运行结果

感谢聆听