特征提和选择.ppt

第五章特征选择和提取 第五章特征选择和提取 特征选择和提取是模式识别中的一个关 键问题 前面讨论分类器设计的时候,一直假定已 给出了特征向量维数确定的样本集,其中 各样本的每一维都是该样本的一个特征 这些特征的选择是很重要的,它影响到分 类器的设计及其性能; 若对不同的类别,这些特征的差别很大 则比较容易设计出具有较好性能的分类器 第五章特征选择和提取 特征选择和提取重要性 在很多实际问题中,往往不容易找到那些最重要 的特征,或受客观条件的限制,不能对它们进行 有效的测量;因此在测量时,由于人们心理上的 作用,只要条件许可总希望把特征取得多一些 另外,由于客观上的需要,为了突出某些有用信 息,抑制无用信息,有意加上一些比值、指数或 对数等组合计算特征; 如果将数目很多的测量值不做分析,全部直接用 作分类特征,不但耗时,而且会影响到分类的效 果,产生“特征维薮灾难”问题 第五章特征选择和提取 为了设计出效果好的分类器,通常需要对原 始的测量值集合进行分析,经过选择或变换 处理,组成有效的识别特征 在保证一定分类精度的前提下,减少特征维 数,即进行“降维”处理,使分类器实现快 速、准确和高效的分类 为达到上述目的,关键是所提供的识别特征 应具有很好的可分性,使分类器容易判别。 为此,需对特征进行选择。 应去掉模棱两可、不易判别的特征 所提供的特征不要重复,即去掉那些相关性强且 没有增加更多分类信息的特征。 第五章特征选择和提取 说明 实际上,特征选择和提取这一任务应在设 计分类器之前进行。 第五章特征选择和提取 所谓特征选择,就是从n个度量值集合{x1 x2…,xn}中,按某一准则选取出供分类用的子 集,作为降维(m维,mn)的分类特征 所谓特征提取,就是使(x1,x2…,xn)通过某种 变换,产生m个特征(y1,y2,ym)(mn),作 为新的分类特征(或称为二次特征) 其目的都是为了在尽可能保留识别信息的前 提下,降低特征空间的维数,已达到有效的 分类 第五章特征选择和提取 以细胞自动识别为例 通过图像输入得到一批包括正常细胞和异常细胞 的图像,我们的任务是根据这些图像区分哪些细 胞是正常的,哪些细胞是异常的 首先找出一组能代表细胞性质的特征,为此可计 算 细胞总面积 总光密度 胞核面积 核浆比 细胞形状 核内纹理 第五章特征选择和提取 以细胞自动识别为例(续 这样产生出来的原始特征可能很多(几 甚至几百个),原始特征空间维数很高, 需要降低维数以便分类; 种方式是从原始特征中挑选出一些最有 代表性的特征,称为特征选择 另一种方式是用映射(或变换)方法把原 始特征变换为较少的特征,称为特征提取。 5.1模式类别可分性的测度 距离和散布矩阵 [点到点之间的距离 [点到点集之间的距离 {ah;-t,z… [类内距离] 5.1模式类别可分性的测度 距离和散布矩阵 类内散布矩阵 对属于同一类的模式样本,类内散布矩阵表示各样本点 围绕其均值周围的散布情况,这里即为该分布的协方差 矩阵 类间距离和类间散布矩阵] [多类模式集散布矩阵] 以上各类散布矩阵反映了各类模式在模式空间的 分布情况,但它们与分类的错误率没有直接联系 (若与分类错误率联系起来,可采用散度作为类别可分 性的度量)