统计学习理论和svm支持向量机.pptVIP

统计学习理论和SVM(支持向量机) 主要内容 统计学习理论的核心内容 支持向量机 （1）标准的最优分类面 （2）广义最优分类面 （3）变换到高维空间的支持向量机 感受 统计学习理论的核心内容 支持向量机比较好地实现了有序风险最小化思想(SRM) 广义最优分类面 在线性不可分的情况下，就是某些训练样本不能满足式(2)的条件，因此可以在条件中增加一个松弛项ζ，约束条件变成 : 变换到高维空间的支持向量机 采用如下的内积函数： 感受 理论基础扎实 应用领域很广 地名识别 鲁棒性强 ………… Thank! 2003-4-18 * * 统计学习理论是小样本统计估计和预测学习的最佳理论。 假设输出变量Y与输入变量X之间存在某种对应的依赖关系,即一未知概率分布P(X,Y)，P(X,Y)反映了某种知识。学习问题可以概括为:根据l个独立同分布( independently drawn and identically distributed )的观测样本train set， 学习到一个假设H=f(x, w) 作为预测函数,其中w是广义参数.它对P(X,Y)的期望风险R(w)是(即统计学习的实际风险)： 而对train set上产生的风险Remp(w)被称为经验风险(学习的训练误差): 首先Remp(w)和R(w)都是w的函数，传统概率论中的定理