神经网络集成算法分析及其在煤矿安全中的应用-analysis of neural network integration algorithm and its application in coal mine safety.docxVIP

山东师范大学硕士学位论文 山东师范大学硕士学位论文 山东师范大学硕士学位论文 山东师范大学硕士学位论文 I I PAGE PAGE IV 目 录 摘 要I ABSTRACT II 第一章 绪论1 1.1 课题研究的背景和意义1 1.2 国内外关于该课题的研究现状及趋势2 1.2.1 神经网络2 1.2.2 神经网络集成3 1.2.3 煤矿安全隐患的研究现状4 1.3 研究目标和内容5 1.4 本文的组织结构6 第二章 神经网络集成理论7 2.1 神经网络集成定义7 2.2 神经网络集成理论分析7 2.3 神经网络集成步骤9 2.4 个体网络生成和选择9 2.5 经典算法10 Boosting 算法 10 Bagging 算法 11 第三章 基于图聚类的神经网络集成方法13 3.1 图聚类13 3.1.1 图的基本概念13 3.1.2 图聚类概念13 3.1.3 国内外研究现状14 3.2 经典算法15 3.2.1 Kernighan-Lin 算法 15 3.2.2 谱平分法16 3.2.3 分裂方法17 3.2.4 凝聚算法17 3.3 图聚类与神经网络集成的集合19 3.3.1 将数据聚类转换为图聚类19 3.3.2 结合方法20 3.3.3 算法的描述20 3.3.4 测试实验20 第四章 基于蜂群算法的选择性神经网络集成方法23 4.1 群体智能23 4.1.1 群体智能概念23 4.1.2 群体智能的基本原则与特点23 4.1.3 微粒群算法24 4.1.4 蚁群算法25 4.2 蜂群算法26 4.2.1 大自然中的蜂群26 4.2.2 蜂群算法的分类26 4.3 人工蜂群算法27 4.4 人工蜂群算法的实验验证28 4.5 人工蜂群算法解决 0-1 优化问题 31 4.5.1 0-1 优化问题 31 4.5.2 算法思想31 4.6 蜂群算法与神经网络集成的集合32 4.5.1 结合思想32 4.5.2 算法的描述32 4.5.3 测试实验32 第五章 神经网络集成在煤矿安全中的应用35 5.1 煤与瓦斯突出危害35 5.2 数据来源36 5.3 数据模型37 5.4 实验结果37 第六章 总结与展望41 III III PAGE PAGE IV 6.1 研究总结41 6.2 研究展望41 参考文献43 攻读硕士学位期间发表的论文及参与的项目47 致 谢48 插图索引 图 2.1 神经网络集成模型7 图 3.1 图聚类结构图14 图 3.2 图聚类算法汇总15 图 3.3 凝聚算法示意图18 图 3.4 数据的图聚类示意图19 图 3.5 数据集上分类准确率比较21 图 4.1 Sphere 函数图像 29 图 4.1 Sphere 函数进化曲线图 29 图 4.3 Rosenbrock 函数图像 30 图 4.4 Rosenbrock 函数进化曲线图 30 图 4.5 数据集上分类准确率比较33 图 5.1 突出预测模型36 图 5.2 数据模型37 图 5.3 AdoBoost 误差 39 图 5.4 基于蜂群误差39 图 5.5 基于图聚类误差40 V V 附表目录 表 3.1 测试 UCI 数据集 21 表 3.2 算法的误差比较21 表 4.1 测试 UCI 数据集 33 表 4.2 算法的误差比较33 表 5.1 部分实验数据37 表 5.2 算法的误差比较38 表 5.3 算法迭代次数比较38 山东师范大学硕士学位论文 山东师范大学硕士学位论文 山东师范大学硕士学位论文 山东师范大学硕士学位论文 I I II II 神经网络集成算法研究及其在煤矿安全中的应用 摘 要 自神经网络集成概念和思想提出以后，大量研究人员便涌入该领域，从而使 得神经网络集成成为当今国际机器学习和神经计算学界的研究热点。如何设计出 更有效的神经网络集成的实现方法，以提高神经网络集成模型的泛化能力，则具 有很强的理论和现实意义。 本文正是在此前提下，就样本选取、个体网络生成选择两个阶段，分别提出 了新的算法。样本选取——提出基于图聚类的样本选择算法；个体网络生成选择 ——提出了基于人工蜂群的个网络个体选择算法。 第三章重点介绍了图聚类算法，以及通过将图聚类算法应用到训练样本选取 过程来提出一种基于图聚类的神经网络集成算法。该算法首先利用图聚类算法将 样本聚类，然后从个聚类中抽取样本，并用所抽取样本训练个体神经网络，最后 在将个体神经网络集成。 第四章重点阐述了一种利于 ABC 算法（蜂群算法）去除冗余个体的新的选 择性神经网络集成构造算法。该算法能够选择差异度大的集成个体，构建出精确 度高的集成网络。这一算法首先运用可重复采样技术训练大量集成个体，继