统计学习理论与支持向量机.pptVIP

本章主要内容 131机器学习问题的表示 132统计学习理论的发展历程解) 133统计学习理论的主要内容熟悉) 134最优分类面重点 3.5支持向量机的基本原理重  131机器学习问题的表示  131.1机器学习与模式识别的关系 口机器学习—让机器拥有类似人类的学习能力 口机器学习是人工智能的重要分支 口模式识别可以看作是机器学习的特例。 口如果在人工智能上有所突破,以至于机器能够学习,那么它 价值10个微软。 - B Gates, 2004 机器学 人工智前  1314机器学习问题的表示 待研究系统 输出t 使期望风险最小 学习方法 R(w)=L(/(x, w)P(xr xdr 输出f(xw 口已知:学习样本x,x2…x及其相应的目标值t,2… 口三类最基本的学习问题 损失函数L 分类 joit=∫(xw) 1(:f(xw)-101+(xw) 回归 L(,(xw)=(-f(xw) 尽 密度估计:L(P(xw)==hP(xw)  132统计学习理论的发展历程  1321统计学习历程发展历程简介 口20世纪60年代由 Vapnik等人开始研究。这一阶段的研究成果见教 材第7章 口这一阶段的成果理论艰涩,实践性差,没有引起关注 口20世纪90年代开始形成一个较完善的理论体系。同时人工神经网 络(ANN)的研究