构造性机器学习方法的改进算法分析-analysis of improved algorithm of constructive machine learning method.docx

摘 要如今，科学技术正处于多学科互相交叉和渗透的时代。特别是计算机科学与 技术的迅速发展，从根本上改变了人类的生产与生活。同时，随着人类生存空间 的扩大，人们对科学技术提出了新的更高的要求。在现在信息爆炸的时代，要从 各种各样海量信息中找出我们大家感兴趣的、有价值的信息，信息处理显得尤为 重要。聚类、分类等各种信息处理方法层出不穷。从 1943 年到现在，人工神经网 络虽然历经波折，但也取得长足发展，应用范围越来越广，如：模式识别、最优 化问题计算、复杂控制、通信等等。然而传统的网络的本质缺陷限制了神经网络 在海量数据中的应用。覆盖算法就是在前向神经网络的不断发展和推进下发展起来的。与传统的前 向神经网络相比，覆盖算法具有运行速度快、精度高的特点，在众多领域得到广 泛应用。大批的研究者在优化覆盖算法上也做出了巨大的贡献，在原始覆盖算法 的基础上提出了大量的改进算法，如：领域覆盖算法、增量覆盖算法、核覆盖算 法、多侧面覆盖算法、概率覆盖模型算法等等。但是各种算法中，领域的初始中 心一般是随机选择，从而造成覆盖网络性能也具有随机性。同时，领域覆盖网络 中领域存在冗余，由此可见覆盖算法有待进一步深入研究。本文的主要工作包括：1． 概述了人工神经网络的发展过程，比较分析构造性机器学习方法的主要模型, 并详细介绍了覆盖算法的思想，比较分析基于覆盖算法的神经网络的主要模 型和算法；2． 提出了基于聚类的交叉覆盖算法：与传统的前向神经网络相比，覆盖算法具 有运行速度快、精度高的特点，但覆盖算法的初始领域中心是随机选取的。 实验表明网络性能与学习顺序有密切的关系。本文在前向神经网络交叉覆盖 算法基础上提出了一种新型改进的交叉覆盖算法――基于聚类的交叉覆盖算 法。该方法是一种根据聚类结果确定学习顺序的方法。实例表明这种改进的 算法是确定性学习方法，可以有效减少覆盖数量，提高交叉覆盖算法的测试 速度，减少拒识样本数，提高识别的精度。安徽大学硕士学位论文构造性机器学习方法的改进算法研究3． 提出基于关联规则的领域覆盖算法：前向神经网络网络的覆盖算法根据样本数据构造性地建立神经网络，网络结构易于确定，执行效率高。但由于噪声 数据的存在，可能造成覆盖领域多，从而增加了网络结构的复杂性,并产生一 些不必要的误识。本文借鉴数据挖掘中关联规则的支持度与可信度的概念， 对覆盖领域进行约简，简化覆盖网络的结构，提高网络的稳定性和推广能力。 关键词：交叉覆盖算法，覆盖领域，初始中心，关联规则，约简AbstractNow, technology is in the era of intercross and interpenetration of multi-subject. Especially the fast development of computer science has changed humans’ life style. Simultaneously, along with the expanding of humans’ living space, deeper requests towards science have been put forward. It is important to find interesting, valuable information from various and mass data. The methods of information processing emerge in endlessly, such as clustering, classification and so on. From 1943, artificial neural network (ANN) has developed to a considerable scope. And the range of application is wider and wider, such as: pattern recognition, calculation of optimization, complex control, and communications. But the essential limitations of traditional network have been confined by the usage of it in vast data.Covering algorithm (CA) is developed on the base of Forward Neural Network (FNN). Compared with traditional algorithm of FNN, CA posse