统计学习理论及VM算法研究.pdf

统计学习理论及SVM算法研究 摘要 f统计学习理论的建立是统计推断领域内的一个里程碑，使得机器学习成为 了一门真正的科学，为学习算法的设计提供了坚实的理论基础。 统计学习理论从经验风险最小化归纳原则出发，将“依概率近似”的思想 引入机器学习中，建立了泛函空间的大数定理，改变了机器学习领域的续计基 础。在此基础上，发展出非渐近理论，得到小样本归纳推理原则吖7一 ／ 论文的主要内容包括： 从统计学习理论的统计基础开始着手，与经典模式识别相比较，从中可以 看到统计思想的发展进步：从统计学的大数定律到泛函空间的大数定律；从大 样本假定到小样本理论。 、 法的设计规范。并据此，设计出解决不确定分类问题的后验概率支持向量机。 核技巧是SVM得以成功的一个重要因素，我们从特征映射的角度进行核的 研究，并将之应用于其他成功的方法中。 在论文的最后部分，我们还讨论适应于大规模数据的学习算法。 苎警字j．统计学习理畔经验风险最小够结构风险最小哆统计学习算穆 涎