PR07 特征选择与提取.pdf

第第7第第77章7章章章 特征选择与提取特征选择与提取特征选择与提取特征选择与提取 Outline:Outline:Outline:Outline: 引言引言 类别可分性判据类别可分性判据 第 七七 按距离度量的特征提取方法按距离度量的特征提取方法按距离度量的特征提取方法按距离度量的特征提取方法 章 基于距离的可分性判据基于距离的可分性判据 特 征征 按欧氏距离度量的特征提取按欧氏距离度量的特征提取 选 择 按概率距离判据的特征提取按概率距离判据的特征提取按概率距离判据的特征提取按概率距离判据的特征提取 与与 提 基于熵的可分性判据基于熵的可分性判据 取 22 Yun Tian Beijing Normal University 引言引言引言引言 研究的问题是对已有的特征空间进行改造研究的问题是对已有的特征空间进行改造研究的问题是对已有的特征空间进行改造研究的问题是对已有的特征空间进行改造,,着重于研究对着重于研究对着重于研究对着重于研究对 第 样本究竟用什么样的度量方法更好。样本究竟用什么样的度量方法更好。 七七 章 对分类器设计来说，使用什么样的特征描述事物，也就对分类器设计来说，使用什么样的特征描述事物，也就 特 是说使用什么样的特征空间是个很重要的问题。这个问是说使用什么样的特征空间是个很重要的问题。这个问 征征 题称之为描述量的选择问题，意思是指保留哪些描述量，题称之为描述量的选择问题，意思是指保留哪些描述量， 选 择 删除哪些描述量的问题。但对特征进行删选并不是唯一删除哪些描述量的问题。但对特征进行删选并不是唯一 与与 提 的方法，这种方法也不一定很有效，因此还要必要研究的方法，这种方法也不一定很有效，因此还要必要研究 取 其它方面，由于对特征空间进行改造目的在于提高其某其它方面，由于对特征空间进行改造目的在于提高其某 方面的性能，因此又称特征的优化问题。方面的性能，因此又称特征的优化问题。 33 Yun Tian Beijing Normal University 引言引言引言引言 对特征空间的改造对特征空间的改造对特征空间的改造对特征空间的改造、、优化优化优化优化、、主要的目的是降维主要的目的是降维主要的目的是降维主要的目的是降维，，即把即把即把即把 第 维数高的特征空间改成维数低的特征空间，降维主要维数高的特征空间改成维数低的特征空间，降维主要 七七 有两种途径有两种途径有两种途径有两种途径。一。一种是删选掉种是删选掉种是删选掉种是删选掉一一些次要的特征些次要的特征些次要的特征些次要的特征，，问题在问题在问题在问题在 章 特 于如何确定特征的重要性，以及如何删选。另一种方于如何确定特征的重要性，以及如何删选。另一种方 征征 法是使用变换的手段，通过变换来实现降维，这两种法是使用变换的手段，通过变换来实现降维，这两种 选 择 方法的区分要弄清楚。方法的区分要弄清楚。 与与 提 取 44 Yun Tian Beijing Normal University 问题：问题： 第 七七 章 特 征征 选 择 与与 提 取 55 Yun Tian Beijing Normal University 引言引言引言引言  前面所讨论的分类方法与分类器设计中，都是在前面所讨论的分类方法与分类器设计中，都是在