统计学习第七章统计学习85课件讲解.pptxVIP

统计学习主讲人：朱晓然第七章统计学习

03支持向量机概述

支持向量机（SupportVectorMachine,SVM）是一种广泛应用于分类和回归分析的统计学习方法，其实现充分体现了小样本统计学习理论的核心思想。支持向量机通过寻找最优分类超平面，将不同类别的数据尽可能分开，并最大化分类边距，从而提高模型的泛化能力。三、支持向量机概述

1.线性可分数据的处理三、支持向量机概述在处理线性可分的数据时，支持向量机的主要目标是找到一个超平面，使得该超平面能够完全分隔不同类别的数据点。同时，它还要确保与每一类数据中距离最近的点（即支持向量）之间的距离最大化，这个距离被称为分类边距。分类边距

求解最优超平面的问题可以转化为一个二次规划问题。这个问题具有不等式约束下的二次函数极值特性，且在适当条件下存在唯一解。通过求解该二次规划问题，我们可以确定支持向量机的决策边界。在该过程中，大多数样本对应的系数将为零，这意味着这些样本不会对最终的分类超平面产生影响。真正影响分类超平面的样本，即支持向量，是那些系数不为零的样本。这种机制使得支持向量机在面对噪声和冗余数据时，具有较强的鲁棒性。三、支持向量机概述1.1最优分类超平面的求解

对于非线性可分的数据，支持向量机采用了一种巧妙的方法：将原始输入空间中的数据映射到高维空间。在这个高维空间中，数据可能变得线性可分，这样就可以利用线性分类法进行处理