人工智能AI章符号学习.pptVIP

6.4.2 ID3算法 2. 算法及举例(9/9) S x3=1, y3 x3=2, x1,x2 图6.7 最终的决策树 x3=1 x3=2 x2=1, x1 x2=2, x1 x1=1, y1 x1=2, y2 x1=1, y2 x1=2, y3 x2=1 x2=2 x1=1 x1=2 x1=2 x1=1 第6章 符号学习 6.1 机器学习的基本概念 6.2 记忆学习 6.3 示例学习 6.4 决策树学习 6.5 统计学习 统计学习是一种基于小样本理论的学习方法，其典型方法是支持向量机（Support Vector Machine. SVM） 。 6.5.1 小样本统计学习理论 6.5.2 支持向量机 小样本统计学习理论一种以有限样本统计学理论为基础进行统计学习的理论。其核心是结构风险最小化原理，涉及的概念主要包括经验风险、期望风险和VC维等。 6.5.1 小样本统计学习理论 1. 期望风险和经验风险(1/2) 期望风险 统计学习是要根据给定的训练样本，求出用联合概率分布函数P(x, y)表示的输入变量集x和输出变量集y之间未知的依赖关系，并使期望风险最小。 设有n个独立且同分布（即具有相同概率分布）的训练样本 （x1, y1），（x2, y2），…，（xn, yn）