基于核方法的非线性特征提取研究综述.docVIP

基于核方法的非线性特征提取研究综述

一、核方法的核心理论基础

核方法的核心思想是通过隐式映射将低维空间中的非线性可分数据投影到高维特征空间，使得数据在高维空间中呈现线性可分特性，从而能够利用线性模型的成熟理论框架解决非线性问题。这一过程避免了显式计算高维空间的坐标，仅通过核函数计算样本间的内积实现，有效解决了“维数灾难”问题。核函数的选择需满足Mercer条件，即对于任意有限样本集，核矩阵必须是半正定的，这一特性保证了高维特征空间的存在性与映射的合理性。

常用的核函数可以分为四类：一是全局核函数，以多项式核为代表，其表达式为$k(x,y)=(x\cdoty+c)^d$，其中$c$为偏移系数，$d$为多项式阶数，这类核函数对远距离样本的相关性敏感，能够捕捉数据的全局结构，但对噪声的鲁棒性较差；二是局部核函数，以径向基函数（RBF）核为代表，表达式为$k(x,y)=\exp(-\frac{|x-y|^2}{2\sigma^2})$，其中$\sigma$为核宽度参数，仅对距离较近的样本赋予高权重，局部拟合能力强，对噪声的鲁棒性更好，但全局泛化能力较弱；三是字符串核、图核等结构化核函数，专门针对文本、分子结构等非向量型数据设计，能够直接计算结构化样本间的相似性，拓展了核方法的应用场景；四是混合核函数，通过线性组合多个不同特性的核函数，平衡全局与局部学习能力，典型形式为$k(x,y)=