周雄辉人工智能支持向量机.pptxVIP

§1 引言 牛牛文库文档分享一. SVM (Support Vector Machine)的历史神经网络分类器，Bayes分类器等是基于大样本学习的分类器。Vapnik 等从1960年开始关于统计学习理论的研究。统计学习理论是关于小样本的机器学习理论。1992年支持向量机首次被引入。1995年Vapnik发展了支持向量机理论。支持向量机是基于统计学习理论的一种实用的机器学习方法。 牛牛文库文档分享二. SVM的应用 数据与文本分类 系统建模及预测 模式识别(图像及语音识别，生物特征识别) 异常检测(入侵检测，故障诊断) 时间序列预测§2 统计学习理论第 2 类第 1 类 牛牛文库文档分享 一. 两分类问题给定 l 个观测值: , i = 1, 2, ..., l ? Rn 每个观测值与一个标记相连: , i = 1, 2, ..., l ? {土1} 对于 (2-类) 分类, 建立一个函数: : 表示函数的参数 使得 f 能正确地分类未学习过的样本 牛牛文库文档分享二.期望风险与实验风险期望风险最小化 其中 x, y的联合概率 P(x, y) 是未知的实验风险最小化 实验风险是由在训练集上测得的平均误差所确定的如果训练样本的个数是有限的,则实验风险最小化的方法不保证有高推广能力三. VC理论VC (Vapnik-Chervonenkis)维数分类函数的集合F的VC