手写汉字的并行紧致集成识别方法.pdfVIP

( E 辑) 第33 卷 第 10 期 SCIENCE IN CHINA ( Series E ) 2003 年 10 月 手写汉字的并行紧致集成识别方法* 王春恒 肖柏华 戴汝为 (中国科学院自动化研究所, 北京 100080) 摘要 针对手写汉字识别这一大类别分类问题, 给出了一种新的基于多层感知机 (MLP)网络的并行紧致集成方法. 方法中强调综合集成中人机结合的观点, 编码训练紧 致网络分类器, 并通过一个两步监督学习过程实现整个集成网络分类系统. 与以前的 集成方法相比较, 并行紧致集成方法在结构和信息处理方式上具有并行紧致的特点, 体现出较高的分类性能, 为MLP 网络在大类别分类问题中的应用提供了一条可行的途 径. 关键词 手写汉字识别 综合集成 多层感知机网络(MLP) 紧致MLP 网络分类器 监督学习 [1~4] 多分类器集成或组合是模式识别中一个重要的研究方向 . 一般情况下, 不同的分类器 之间在分类能力上有不同程度的互补作用, 可以被集成在一起, 形成一个具有更高分类性能 的集成分类系统. 不幸的是, 由于缺乏足够的先验知识, 很难定量地分析出不同分类器之间的 互补关系. 然而众所周知的是, 多层感知机(multi-layer perceptron, MLP) 网络具有极强的学习 和记忆功能, 可以在没有任何先验知识的情况下获取数据之间的联系与区别, 是用来完成分 类器和多分类器集成的理想工具. 手写汉字识别是一个大类别分类问题, 类别数大是阻碍MLP 网络直接应用于手写汉字识 别的主要原因. 直观和常用的解决方法是利用问题分解的策略, 将原问题分解为多个易于网 [5]1) 络实现的小类别分类问题 . 然而这种方法不仅破坏了方法本身的系统性和整体性, 而且降 低了分类性能和泛化能力. 实际上, 人的智慧与机器能力的结合能够降低待解问题的复杂程 [6,7] 度 . 从这种观点出发, 本文给出了一种解决手写汉字识别问题的并行紧致集成方法, 克服 了已有方法的不利因素. 方法中定义了紧致MLP 网络分类器, 在不破坏问题完整性的前提下, 克服了因类别大而引起的网络规模过大的缺陷. 这一方法通过一个有教师的两步监督学习过 程来实现, 在第一步监督学习中, 构建并训练一个或多个紧致 MLP 网络分类器; 在第二步中 构建并训练集成网络. 从学习过程中可以看出, 负责监督指导的教师起着关键的作用. 这一集 成方法为MLP 网络在大类别分类问题中的应用提供了一条可行的途径. 本文选择手写汉字识别作为具体的研究对象, 将综合集成的思想进一步引入到模式识别 中, 目的不仅在于提高识别系统的性能, 更是寻求合理的人-机集成策略, 从而在大类别分类 问题中实现合理且有效的网络集成. 1999-12-01 收稿, 2003-03-20 收修改稿 * 国家自然科学基金资助项目(批准号: 1) 王春恒. 基于人工神经网络的手写汉字识别系统. 中国科学院自动化