空间结构化欧拉核及其应用-中国科学.pdfVIP

中国科学: 信息科学 2016 年 第46 卷 第2 期: 179–192 论 文 空间结构化欧拉核及其应用 刘爽 陈松灿 南京航空航天大学计算机科学与技术学院, 南京 210016 * 通信作者. E-mail: s.chen@nuaa.edu.cn 收稿日期: 2015–05–20; 接受日期: 2015–06–08; 网络出版日期: 2016–01–22 国家自然科学基金(批准号: 和高等学校博士点基金 (批准号: 20133218110032) 资助项目 摘要 自Yang 等将向量主成分分析 (1D-PCA) 推广至面向图像的2D-PCA 以来, 众多基于向量的 1D 形式算法被相继推广至对应的2D 形式. 因利用了图像/矩阵空间特定的结构先验知识, 在处理矩 阵型数据时2D 算法自然导致了较传统1D 算法更好的学习性能, 这与“没有免费午餐定理” 相符. 但 2D 算法仍有其不足, 主要表现在: (1) 2D 算法几乎都是线性的, 因此对非线性数据处理的能力有限; (2) 2D 算法的空间结构信息利用仍不够充分. 针对第一个不足, 本文利用核方法进行改进, 但相对于 1D 算法, 2D 算法因难以利用表示定理而导致核化困难, 因此本文绕过表示定理, 通过改变度量获得 一个简洁的核化方法; 针对第二个不足, 本文采用在核空间直接对空间结构信息进行补偿的方法. 但 这需要在核空间中描述矩阵数据的空间结构, 如果使用隐式核进行核化可能会导致矩阵数据空间结 构扭曲, 从而使对空间结构信息的描述和利用变得困难; 如果使用显式核进行核化, 会导致维数灾难 而失去隐式核的优势. 若核映射是一个显式、等维且各分量非耦合的映射, 就能自然地描述出矩阵 数据在核空间中的结构. 幸运的是, 存在众多符合以上要求的显式核(如Hellinger 核和欧拉核) 和隐 式加性核(如Intersection 核、JS 核和 核) 的近似显式形式. 因欧拉核形式上的简洁性及其良好的 行为, 本文以欧拉核作为样例, 首次尝试进行矩阵的核化及其在核空间的空间结构信息补偿. 尽管存 在若干空间结构信息的补偿方法, 如空间结构信息约束、图像距离度量等, 本文围绕现有的图像欧 氏距离加以阐述, 从而为矩阵或图像数据构建出对应的空间结构化欧拉核. 最后将其应用于典型2D 算法并通过实验验证了其有效性. 关键词 2D 算法 核方法 空间结构信息 欧拉核 图像欧氏距离 引言 传统的模式识别算法都是基于向量的 算法 即使是具有结构的矩阵数据也要将其向量化后进 行处理 这就忽略了矩阵数据内在的空间结构信息 因此 对于矩阵数据为了利用数据内在的空间结 构信息 最简单的方法就是直接处理矩阵数据 等 首先将传统 推广到了 并在 人脸识别上取得了较 算法更好的性能 受 启发 众多基于向量的 形式算法被相继 推广至对应的 形式 如 基于矩阵度量学习的 等 对于矩阵数据 算法之 引用格式 刘爽 陈松灿 空间结构化欧拉核及其应用 中国科学 信息科学 ⃝ 《中国科学》杂志社 刘爽等: 空间结构化欧拉核及其应用 所以很大程度上优于传统 算法在于其利用了与模式相关的部分空间结构信息 这也印证了 没有 免费午餐定理 即只有利用更多与问题相关的信息才能获得更好的学习性能 尽管如此 算法仍有 其不足 具体表现为 算法几乎都是线性的 因此对非线性数据处理能力有限 算法的空 间结构信息利用仍不够充分 如 只考虑了单纯行或列 间的相关信息 为了克服上述 不足 已有众多改进的 算法 针对第一个不足 一种方法是直接对矩阵数据非线性化 如矩阵指数 但这类做法相对固定 很 难适应学习任务的多样性 另一种方法是针对矩阵数据核化 但与 算法可借助表示定理进而通过 核方法实现非线性化相比 算法难以利用表示定理而较难核化