模式识别第九讲-第七章特征的选择和提取要点.pptVIP

第七章 特征提取与特征选择 以前讨论分类器设计时，都假定模式的特征向量已经提取出来了（有多少特征确定了）。 特征选择和提取的任务是如何从许多特征中找出那些最有效的特征，把高维特征空间压缩到低维特征空间。 在一些书籍和文献中，在不完全相同的意义上使用特征提取和特征选择的术语。  例如“特征提取”，有的专指特征的形成过程，有的指对初始特征进行变换后得到有效特征的过程。   为了方便以后的讨论，我们把特征提取、特征选择的含义明确一下。 模式特征的产生过程一般包括以下步骤： 1．原始特征的形成：用仪表或传感器测量出来的一些特征量，或通过（对波形和图象）计算得到的一些特征，称为原始特征、原始测量或一次特征。 ? 2．特征提取：原始特征的数量很大，需要通过变换把高维特征空间降到低维空间，这时的特征叫二次特征，它们一般是原始特征的某种组合。 3．特征选择：从一组特征中，挑选它的一个子集，即一部分特征，来减少特征的个数，实现降维。 特征的提取和选择是人类的一项基本智能活动，从相关和不相关信息中找出主要因素。 这一节讨论基于主成分分析（primary component analysis, PCA）的特征提取方法。也称为K-L（Karhunen-Loe