基于广义判别分析的光谱.pdfVIP

第26卷，第10期 光谱学与光谱分析 2OO and October，2006 6年10月 SpectroscopySpectralAnalysis 基于广义判别分析的光谱分类 许 馨1’2，杨金福1，吴福朝1，赵永恒2 1．中国科学院自动化研究所国家模式识别实验室，北京100080 2．中国科学院国家天文台，北京 100012 discriminant 摘要 提出了基于广义判别分析(generalized 线性映射将样本集映射到高维特征空间F，在F空间中进行线性判别分析。实验对比了LDA，GDA，PCA， KPCA算法对于恒星、星系和类星体的光谱分类性能。结果表明基于GDA的算法对于这3种类型光谱的分 类正确率最高，U)A次之；尽管KPcA也是一种基于核的方法，但是选择主成分个数较少时效果较差，甚 至低于LDA；基于PCA的分类效果最差。 主题词光谱分类；广义判别分析；线性判别分析；核主成分分析 中图分类号：TP29文献标识码：A 文章编号：looo—0593(2006)10一1960—05 了很大的困难。由此，我们尝试用基于核技术的广义判别分 引 言 析(GDA)对于恒星、星系和类星体进行分类，得到了较好的 实验结果。 天文分类技术具有相对特殊的背景，目前使用的方法许 本文结构如下，第1部分简单的介绍了多类的线性 Fisher判别分析；第2部分的广义判别分析为基于核技术的 多是基于PCA的线性的方法[1’2]和基于神经网络的非线性 方法[3]。近年来，随着统计理论的发展，基于核技术的学习 多类线性判别分析；第3部分是KPcA与GDA的联系；第4 部分为实验结果及分析；第5部分为全文总结。 方法如sⅦ江“、核主成分分析(KPCA)[51和核Fisher判别分 fisher 析(kemeldiscriminant，KFD)[6]在模式识别与机器学 习领域的优越表现引起了各行业学者的广泛关注。因为核学 1多类的线性Fisher判别分析 习方法既可以提取数据的非线性特征，又有较好的推广能 Fisher线性判别分析的本质在于找到一个子空间，使得 力。KPcA由sch01kopf[5]首先提出，随后Mika[6]提出了基 各个类别在这个子空间中能较好地分离，易于分类器的设 于核的Fisher判别分析算法(KFD)。KPCA是一种用于描述 计嘲。 数据的非线性的特征提取方法，KFD是用于分类的非线性 的特征提取方法，后者更适合分类问题。KFD的主要思想是 假设有一组N个d维样本的集合A一{z·，zz，…，烈∈ 将样本数据集非线性映射到高维特征空间，以求数据能够线 剐}=UA，d≥c，其中，c为类别数；A是第j类的n，个 J=I 性可分或近似线性可分，然后在核特征空间中进行线性 样本构成的样本子集，N=∑珥。 Fisher判别分析，找到最利于分类的投影方向，从而导致输 入空间的非线性判别能力。Baudat等[71将KFD发展到多类 常用的标准Fisher准则