特征提取和选择.pptVIP

Chapter6第6章Featureextractionandselection(特征提取和选择)

特征提取和选择的目的(ThePurposeofFeatureextractionandselection)维数灾难(Curseofdimensionality)计算复杂度(Computationalcomplexity)使分类器具有较好的推广能力(Goodgeneralizationpropertiesoftheclassifier)

维数灾难(Curseofdimensionality)在低维空间里很复杂的决策面，在高维空间里可以成为线性的：

维数灾难(Curseofdimensionality)如果增加一些特征，会增加样本到类别均值的距离。在高维空间里或用更加复杂的决策面可以改进分类性能。

维数灾难(Curseofdimensionality)但在实际中这种性能的提高却是行不通的。如只有n＝6个样本，维数d＝2，样本是线性可分的。

维数灾难(Curseofdimensionality)当样本数达到n＝10。与之对应的分布图如图所示。用二次函数解决。

维数灾难(Curseofdimensionality)当n=30时，其分布情况如图所示。

维数灾难(Curseofdimensionality)在样本数和特征数相