统计学习理论与支持向量机概要1.ppt

内容提要 统计学习理论的基本概念与原理 支持向量机 支持向量机在性别分类中的应用 总结与展望 统计学习方法概述 统计方法是主要研究如何从一些观测（样本）出发得出目前尚不能规律，利用这些规律去分析客观现象，对未来数据或无法观测的数据进行预测。就是说，观测一些自然现象或专门安排的实验所得资料，是否与理论相符、在多大的程度上相符、偏离可能是朝哪个方向等等问题，都需要用统计分析的方法处理。 统计学习方法概述 统计学习方法： 传统方法: 统计学在解决机器学习问题中起着基础性的作用。传统的统计学所研究的主要是渐近理论，即当样本趋向于无穷多时的统计性质。统计学中关于估计的一致性，无偏性和估计方差的界等以及关于分类错误率都属于渐进特性。统计方法主要考虑测试预想的假设和数据模型拟合。它依赖于显式的基本概率模型。 模糊集 粗糙集 支持向量机 统计学习方法概述 统计方法处理过程可以分为三个阶段： （1）搜集数据：采样、实验设计 （2）分析数据：建模、知识发现、可视化 （3）进行推理：预测、分类 常见的统计方法有: 回归分析（多元回归、自回归等） 判别分析（贝叶斯判别、费歇尔判别、非参数判别等） 聚类分析（系统聚类、动态聚类等） 统计学习理论的发展 Vladimir N.Vapnik等人早在20世纪60年代就开始