UCAS模式识别6_线性判别函数.pdf

中国科学院大学计算机与控制学院硕士课 《模式识别》 第5章 线性判别函数 Linear Discriminant Functions 向 世 明 smxiang@nlpr.ia.ac.cn 助教：杨学行(xhyang@nlpr.ia.ac.cn); 吴一超(yichao.wu@nlpr.ia.ac.cn) 5.1 引言 • 前面几章主要介绍： – 贝叶斯决策理论 – 概率密度估计－－函数已知情形时，参数估计 – 非参数估计－－密度函数未知 • 本章的主要任务： – 假定用于分类的判别函数的参数形式已知，直接从样 本来估计判别函数的参数。 – 优点： • 不需要有关概率密度函数的确切的参数形式。因此， 属于无参数估计方法。 5.1 引言 • 模式分类的途径 – 估计类条件概率密度函数 • 利用贝叶斯公式求出后验概率，然后决策 • 概率密度参数估计和非参数估计 – 直接估计后验概率 • 不需要估计类条件概率密度函数 • K －近邻分类器 – 直接计算判别函数 • 不需要估计类条件概率密度函数 • 直接找到可用于分类的判别函数 5.1 引言 • 回顾Bayes分类器 – 已知：类先验概率p () 和类条件密度函数p (x|) i i – 任务：估计一个决策函数，借此进行分类 – 主要方法：参数估计与非参数估计 – 特点：需要大量的样本，需要知道某些概率及其形式 • 可否利用样本直接设计分类器？ – 方法分类 • 线性判别函数、支持向量机、Fisher线性判别函数 • 广义线性判别函数、非线性判别函数、核学习机 5.1 引言 • 本章利用样本直接设计分类器的基本思想 – 步1：给定一个判别函数，且已知该函数的参数形式； – 步2 ：采用样本来训练判别函数的参数； – 步3 ：对于新样本，采用判别函数对其进行决策，并按 照一些准则来完成分类。 5.1 引言 • 本章学习判别函数的基本技术路线： – 假定有n 个d 维空间中的样本，每个样本的类别标签 已知，且一共有c 个不同的类别。 – 假定判别函数的形式已知，寻找一个判别函数。 d – 对于给定的新样本x R ，判定它属于 ,  , …,  中 1 2 c 的哪个类别。 5.1 引言 • 基于判别函数的分类器 – 采用已知类别标签的训练样本进行学习，获得若干个 代数界面，这些界面将样本所在的空间分成若干个相 互不重叠的区域。每个区域包含属于同一类的样本。 – 表示界面的函数称为判别函数。 – 判别函数是分类器最常用的表述形式 5.1 引言 • 判别函数示例 图中，边界线即为一个判别函数 5.1 引言 • 基于判别函数的判别准则 – 对于c 类分类问题（线性机器）: • 设g (x), i = 1,2,…, c ，表示每个类别对应的判别函数 i • 决策规则： – 如果g (x) g (x), j  i ，则x 被分为第 类。 i