回声状态网络分类方法及其应用研究-仪器科学与技术专业论文.docx

Classified Index: TP18 U.D.C.: 621.3 Dissertation for the Doctoral Degree in Engineering RESEARCH ON ECHO STATE NETWORKS CLASSIFICATION ALGORITHM AND APPLICATION Candidate：Guo JiaS Candidate： Guo Jia Supervisor： Prof. Pen Academic Degree Applied for： Doctor of Specialty： Instrumen Affiliation： Departme Control Date of Defence： July, 201 Degree-Confirming-Institution： Harbin In t Science and Technology nt of Automatic Test and 1 stitute of Technology 摘 摘 要 - - I - 摘 要 神经网络是分类方法研究的一个主要方向，然而，在传统神经网络方法 中，存在着训练算法复杂、易陷入局部最小等问题，影响了方法的性能，制约 着其应用效果。为此，引入一种新型神经网络——回声状态网络，利用其训练 算法简捷、全局最优等特点，进行分类方法的探讨。在回声状态网络的研究 中，储备池优化是亟待解决的热点问题之一。此外，对于一些复杂的分类问 题，回声状态网络作为分类器的特征选择方法等还有待研究。有鉴于此，针对 回声状态网络储备池结构及参数、特征选择等对分类方法综合性能的影响，本 文从储备池优化和特征选择两方面进行基于回声状态网络的分类方法及其应用 研究。论文的研究工作主要包括如下内容： 1. 针对标准回声状态网络储备池完全随机生成、对分类问题欠缺针对性的 问题，借鉴模仿哺乳动物大脑皮层分簇结构的复杂网络拓扑结构，进行储备池 分簇结构的构建，提出一种基于相应簇储备池回声状态网络的分类方法。该方 法利用具体问题中需分类数据的类别数量，将时间窗函数机制引入到回声状态 网络储备池的构建中，提高分类精度。实验验证结果表明，该方法与标准回声 状态网络等方法相比具有更低的分类错误率。 2. 针对回声状态网络分类方法中的储备池参数选择问题，引入适用于连续 参数优化、全局优化能力较强的微分进化算法，提出一种基于微分进化算法的 回声状态网络参数选择方法，充分利用微分进化算法方法简单、全局优化能力 强、鲁棒性好等特点，进行参数空间中的优化搜索。实验验证结果表明，该方 法简捷有效，具有较好的效率和准确性。 3. 针对回声状态网络分类方法面向特征维数高、特征间关系复杂的数据时 的特征选择问题，提出一种基于微分进化算法的封装式特征选择方法，结合微 分进化算法与回声状态网络，采用分类错误率作为回声状态网络分类的性能评 价准则，以指导微分进化算法的搜索。实验验证结果表明，该方法能够有效地 搜索到优化的特征子集，降低分类方法的时间消耗。在此基础上，针对回声状 态网络分类模型建立过程中，参数设置影响特征选择效果的问题，提出一种基 于微分进化算法的回声状态网络参数及特征同步选择方法，在特征选择的同 哈尔滨工业大学工学博士学位论文 哈尔滨工业大学工学博士学位论文 - - II - 时，进行储备池参数的优化。实验验证结果表明，该方法能够有效地同步搜索 到优化的参数和特征子集，提高分类方法性能。 4. 针对回声状态网络的多储备池结构，引入集成学习的思想，提出一种基 于随机子空间与多储备池的分类方法。该方法采用随机子空间方法产生特征子 集，对应特征子集生成多个储备池。利用回声状态网络仅需训练储备池至输出 层的权值这一优点，将分类集成阶段融合于多储备池回声状态网络的学习过程 中。实验验证结果表明，该方法与标准回声状态网络等方法相比具有更低的分 类错误率。 5. 为了验证本文所提出的各种回声状态网络分类方法的有效性和实用价 值，开展回声状态网络分类方法的故障诊断应用研究，提出算法实现结构，进 行方法有效性的验证。仿真以及实际实验验证结果表明，本文所提出的方法能 够有效地应用于故障诊断问题，并取得良好的诊断性能。 关键词：回声状态网络；储备池优化；特征选择；智能故障诊断 Abs Abstract - - PAGE VII - Abstract Artificial neural networks is a mainstay in classification research. However, training process in classical neural networks is always complex or easy