基于核函数的主成分分析及应用.pdfVIP

( ) 第 23 卷第 2 期 总第 134 期 　　　 　 　　系　统　工　程 V o l. 23, N o. 2 2005 年 2 月　　　　　　　　　 　 　 　 System s Engineering Feb. , 2005　 文章编号:(2005) 基于核函数的主成分分析及应用 吴今培 (五邑大学, 广东 江门　529020) 摘　要: 给出一种采用核函数的主成分分析方法, 它为解决大规模非线性数据的特征提取问题提供一条可行 的途径。 关键词: 主成分分析; 核函数; 支持向量机 中图分类号: T P 18　　　文献标识码: A 　　V pnik 等人根据统计学习理论提 出的支持 向量机 在本文的实际应用中采用了以下三种核函数: (Suppo rt V ecto r M ach ine, SVM ) 学习方法[1 ] , 近年来受 ( 1) 多项式核函数 到国际学术界的广泛关注, 并且已经应用到各领域, 如模 K (x , x i ) = [ (x x i ) + 1 ]p 式识别、故障诊断、主成分分析和降噪处理等。对于线性 ( ) 　　 2 高斯径向核函数 不可分问题, V apnik 引入了核空间理论: 将低维的输入空 2 K (x , x i ) = exp - x - 2 x i 间数据映射到特征空间, 使分类问题转化到特征空间进行。 ( ) 可以证明, 如果选用适当的映射函数, 输入空间线性不可分 　　 3 多层感知机核函数 问题在特征空间将转化为线性可分问题。这种非线性映射函 K (x , x i ) = tanh [v (x x i ) + c ] 数被称之为核函数(Kernel Function) 。将核函数与一般的主 2　基于核的主成分提取 成分分析(P rincip le Component A nalysis, PCA ) 有机融合 而 形 成 的 基 于 核 的 主 成 分 分 析 ( Kernel P rincip le N l 设数据集x = (x 1, x 2 , …, x l ) , x k ∈R , x k = 0, ∑ , ) , 不仅具有优秀的主元提取性 Component A nalysi