高光谱数据分类中SVM特征选择重要性.pdfVIP

基于SVM的高光谱数据分类特征选

择

MaheshPal和GiM.Foody，IEEE会员

—支持向量机（SVM）在数据分类中具有，然而，特征通常高度相关，这表明可用信息存在一定程度

有人声称该方法对数据的维度不敏感，因此在预处理中不需要进的冗余，可能对分类准确性产生影响[4]。

行降维分析。在此，使用两组高光谱传感器数据进行了一系列分

类分析，结果表明，SVM分类的准确性确实随所使用的特征数

量而变化。关键在于，研究表明，随着特征的增加，分类的准确在高光谱数据分类中经常提到的一个问题是休斯效应

性可能会显著下降（在统计显著性水平为0.05时），特别是当或现象。后者可能会对分类的准确性产生重大影响。

使用较小的训练样本时。这突显了SVM分类准确性对数据维度假设训练集固定不变，该现象的关键特征可以通过一个典

的依赖性，因此，在分类前进行特征选择分析可能具有潜在价值。型场景来说明，在这个场景中，特征被逐步添加到分类分

此外，即使有较大的训练样本可用，特征选择仍然可能是有用的。析中。最初，随着新特征的增加，分类准确性提高。然而，

例如，使用少量特征得到的准确性可能并不劣于（在显著性水平准确率的增长速度会下降，最终，随着特征的加入，

为0.05时）使用较大特征集得到的准确性，这在数据和计准确性将开始下降。尽管一开始可能显得，即提

算处理成本等方面了潜在优势。因此，特征选择可能是

供额外的区分信息会导致准确性损失，但这个问题经常遇

SVM分类预处理操作中有价值的分析环节。

到[5]–[7]，并且是由于分析需要从（固定的）训练样本中

估计的参数而引起的。因此，添加特征可能会导致分

类准确性降低[8]。

索引术语—分类准确性，特征选择，休斯现象，高光谱数据，

支持向量机（SVM）。休斯现象已在基于多种分类器的许多研究中观察

到[3],[5],[9],[10]。例如，如果样本大小与特征数量的比

I.引言例较小，参数化技术（如最大似然分类器）可能无法准确

PROGRESS在高光谱传感器技术中，可以在可见到红地分类数据集，因为它将无法正确估计对分析至关重要的

第一和第二阶统计量（即均值和协方差）[6]。请注意，

外光谱区域内测量许多精细间隔的光谱特征或波段。这些

随着特征数量的增加，假设训练集大小固定不变，这一比

高光谱传感器获取的图像比传统多光谱系统获取的图像提

例会下降。因此，训练集的两个关键属性是其大小和固定

供了的目标光谱变化细节，具有从不同物体中提取更

性质。例如，如果训练集不是固定的，而是随着新特征的

多信息的潜力[1]。对这些传感器数据的分析和解释为土地

增加适当增加，这种现象可能不会发生。同样，如果固定

覆盖分类等应用带来了新的可能性[2]。然而，大量数据的