第8章 基于实例的学习精要.pptVIP

第8章 基于实例的学习 从实践中学习 先训练再分类 边训练边分类 8.1 简介 lazy way： 把工作延迟到必须处理了才去做 关键优点 假定实例可以被表示为欧氏空间中的点 学习过程： 开始，只是简单地存储已知的训练数据 然后，当新实例需要分类或产生新查询时，才开始泛化目标函数 8.1 简介 不足： 分类新实例的开销可能很大 考虑样例的所有属性，但实际情况可能并不需要如此 基本方法： 最近邻法 局部加权法 径向基函数网络 基于案例的推理*：用符号表示和基于知识 8.2 k-近邻算法 前提假设：假定所有的实例对应于n维空间中的点 一般而言，远近的概念是基于标准欧氏距离定义的 可以把任意实例x表示为： 两个实例之间的距离： 8.2 k-近邻算法 分析图8-1 k-近邻算法 例：实现Thiessen Polygons 例：电影分类 例：约会网站配对效果 8.3 局部加权回归 回归（Regression）：逼近一个实值的目标函数 局部（local）：仅根据查询点附近的数据 残差（Resident）：逼近目标函数时的误差 核函数（Kernel function）：距离函数，用来确定每个训练样例的权值 8.3 局部加权回归 是最近邻法的推广 环绕着查询点xq为目标函数f寻找明确的逼近 如何实现： 训练样例的局部加权回归 距离加权 线性函数，二次函数，多层神经网络 8.3 局部加权回归 实现