基于流形学习与SVM的手写字符识别方法.pdfVIP

电子发烧友 电子技术论坛 基于流形学习与 SVM的手写字符识别方法 李学华 舒兰 （电子科技大学应用数学学院，四川成都，610054） 【摘 要】本文结合核方法、局部线性嵌入(LLE)和支持向量机等机器学习方法，提出了一 种集成手写字符维数约简、特征提取及识别方法。鉴于 LLE 方法对其近邻个数太过敏感,以 及要求流形上的数据分布比较均匀，难以实现手写字符维数约简。本文提出的基于核局部线 性嵌入方法(KLLE)，能够选择最优的近邻个数、构造分布均匀流形，并克服了手写字符识别 中由于书写习惯和风格不同造成字符模式不稳定的问题。使用 MINST数据库中的手写数字进 行仿真实验并利用 PCA、LLE进行维数约简比较，验证了 KLLE算法的有效性及优势。 【关键词】核方法；局部线性嵌入； 支持向量机； 手写字符识别 中图分类号：TP391-04 文献标码识：A Manifold Learning and SVM Based Handwritten Numeral Recognition Li Xuehua Shu Lan (School of Applied Mathematics, University of Electronic Science and Technology of China, Chengdu, 610054, China) Abstract: This paper investigates kernel method, locally linear embedding (LLE) and support vector machine algorithms for dimensionality reduction, features extraction and recognition for handwritten numeral. Because of the LLE impressionable the number of nearest neighbors and uniform distribution manifold, this paper proposed the kernel method based locally linear embedding to selecting the optimal number of nearest neighbors, constructing uniform distribution manifold, and overcome the instability of handwritten character model that is caused by different writing style. Furthermore, we have realized the emulation experiments of MINST data base. A full comparison of dimensionality reduction by PCA, LLE, and KLLE demonstrates that KLLE is effective approach. Keywords: Kernel method, locally linear embedding, support vector machine, handwritten numeral recognition. 1 引言 人脸识别、手写字识别和指纹是现代模式识别的重要的研究对象，手写体数字字符识别 因其更接近人们的日常生活而倍受关注[1]，但是在文本、图像的识别中，不可避免地出现 大量的高维非线性数据。传统的线性维数约简方法难以直接用于分析来源于真实世界的高维 和非线性数据。其主要原因有膨胀的维数导致计算量迅速上升；高维导致样本数相对较少， 使得某些统计上的渐近性质受到破坏；传统方法在处理高维数据时不满足稳健性要求等。因 此，研究高维非线性数据面临诸多困难。这主要是高维带来了数据的稀疏和维数灾难，而非 线性使得现有的快速成熟的线