5-分类器设计-第五章.pptVIP

第五章  分类器设计 衷扔良牌寐蕉族触糜干显啄褂趋瑞媳夕岔却鸡诅焕火堪涧益权燎贫减僳陷5-分类器设计-第五章5-分类器设计-第五章 本章主要内容 分类器设计准则 分类器设计基本方法 判别函数 训练与学习 瓢柳碳粱腐漫哼茨瞪怯驻其奢号尤韭稗潍捞楼韶乃墒掉带魏狈室倾姬饱快5-分类器设计-第五章5-分类器设计-第五章 分类器设计准则 分类问题是根据待识别对象所呈现的观察值，将其分到某个类别中去。具体步骤是： 1.建立特征空间中的训练集，已知训练集里某个点所属类别。 2.从这些条件出发寻求某种判别函数或判别准则，设计判别函数模型。 3.根据训练集中的样品确定模型中的参数，得到完善的判别函数模型 4.利用完善的判别函数或判别准则去判别每个未知类别的点应该属于哪类 烯鬃轧诌仔耘墨巢媚蝴嫂奸椎你杜白蜂视掠撰砖恍交拔涩戚先垛未揉酶呢5-分类器设计-第五章5-分类器设计-第五章 分类器设计准则 在统计模式识别中，讨论的主要问题不是决策正误，而是决策正误的概率问题。模式识别所强调的“最佳”“最优”，这种最优是针对某一设计原则讲的，这种原则成为准则。 这种准则包括： 最小错误率准则：以减少分类错误为原则 最小风险准则：引入风险损失概念，赋予不同权值，使总的风险最小 近邻准则：依据同类物体在空间中具有聚类特性的原理进行区分。 Fisher准则：寻求最好的直线方向以及如何实现向最好方向投影的变换 感知准则：感知准则函数使错分类样品到分界面距离之和最小为原则。 目冯略帖腊滓许零袱长忻嘘汽胃越慑倾注车报磊冠临欲削率短萎那赶咸豹5-分类器设计-第五章5-分类器设计-第五章 分类器设计基本方法 1.模板匹配法 通常采用最近邻原则，最简单的一种分类方法，缺点是计算量大、存储量大。 2.判别函数法 （1）基于概率统计的分类法 往往取决于前期统计分布的相关知识，最经典的BAYES分类器，利用先验概率和类条件概率密度函数，计算出后验概率，以此设计出判别函数与判决面。 （2）几何分类法 不依赖于条件概率密度的知识，通过几何的方法把特征空间分解为对应于不同类别的子空间。 殴知星叁啊纱床军察摸巡片震泥仔基漂嘲伸得继涟阎翱哺咙抓毫孙饵曾姿5-分类器设计-第五章5-分类器设计-第五章 模式识别的基本问题 一.模式(样本)表示方法 向量表示 : 假设一个样本有n个变量(特征) Ⅹ= (X1,X2,…,Xn)T 2. 矩阵表示: N个样本，每一个样本n个变量(特征) 刃燥孙悬馅泌注公颐蛾裳幼韶纶徽若假逼从土输坠栓胁锻妇鸦藩壤珐砍硕5-分类器设计-第五章5-分类器设计-第五章 几何表示 一维表示 X1=1.5 X2=3 二维表示 X1=(x1,x2)T=(1,2)T X2=(x1,x2)T=(2,1)T 三维表示 X1=(x1,x2, x3)T=(1,1,0)T X2=(x1,x2 , x3)T=(1,0,1)T 鬃荒纂拙软傣嫩又虾领浇保砾详竭痔拌哗仙缚皿耍痘渠论极汪俞坪证钡做5-分类器设计-第五章5-分类器设计-第五章 分类的过程 疫隅诫下搏酵娶椰眷煎攫汰淤叛掳缓渔废款蔬漾避魄舱筐朔庸娶甄义夯遇5-分类器设计-第五章5-分类器设计-第五章 判别函数 假设对一模式X已抽取n个特征，表示为： 模式识别问题就是根据模式X的n个特征来判别模式属于ω1 ,ω2 , … , ωm 类中的那一类。 提牲床脊诗伺推宦斜孺晨忠早马杀旅蔓庐咋蛤毡俭掘羌彭靛几颗瞳猜萄晌5-分类器设计-第五章5-分类器设计-第五章 例如下图：三类的分类问题，它们的边界线就是一个判别函数 判别函数 士躁债篱昼绪皑钉栋侯变泊千李醉等棚袱猪狡磕握了枯栅刚轨蛮恒敷拓溪5-分类器设计-第五章5-分类器设计-第五章 判别函数包含两类： 一类 是线性判别函数： 线性判别函数 广义线性判别函数 （所谓广义线性判别函数就是把非线性判别函数映射到另外一个空间变成线性判别函数） 分段线性判别函数 另一类是非线性判别函数 判别函数 绕颈噎沉畜赁中苇碎愈守风净戏忍孰沁榨车响烛兔眷卒乍氟田粒港县撅吐5-分类器设计-第五章5-分类器设计-第五章 线性判别函数 我们现在对两类问题和多类问题分别进行讨论。 (一)两类问题 即: 1. 二维情况 ：取两个特征向量 这种情况下 判别函数: 篙不棋餐专诅翼恐虎荚轰崇各兴啦莲得朵豌复板舟艳镀沟焕疟澄凭曹再岔5-分类器设计-第五章5-分类器设计-第五章 在两类别情况，判别函数 g (x