进化计算优化前向神经网络的学习方法研究.pdf

Code：10225 University Code：B13088 Register Dissertationforthe ofDoctor Degree The MethodsResearchof Learning Feedforward ComputationOptimizing Neural Network Candidate： JiWeidong Supervisor： Prof．WangKeqi Associate Supervisor： Academic for：Doctorof DegreeApplied Engineering Mechanicaland Speciality： DesignTheory Dateof0ralExamination：June，2013 Northeast University： ForestryUniversity 万方数据 摘要 摘要 系统仿真领域的研究难点和研究热点之一是对复杂系统进行仿真及建模研究。人工 神经网络通过大量互连神经元之间连接权值的分布存储来表示网络的解题知识，具有并 行处理、自学习和能以任意精度逼近任意非线性函数等特性，神经网络具有的这些优点 使其适宜于复杂系统建模中。但神经网络在应用中还存在一些问题，譬如网络学习局部 极小，收敛速度缓慢，网络结构设计复杂及泛化性能弱等缺点，神经网络的这些缺陷阻 碍了其应用。神经网络学习从本质上说是网络结构与权值的优化过程，神经网络这些局 限性都不可避免的会牵扯到网络学习中的优化问题。进化计算是一类模拟生物进化过程 与机制求解问题的人工智能技术，进化计算具有智能性和本质并行性两大特点，它不受 对象目标函数连续可微条件约束，在一些离散、多态、含噪声的优化问题中更显示出该 方法独特的优势，进化计算具有的这些优点为解决神经网络自身缺陷提供了一条全新可 行途径。 本文利用群体智能中的进化计算来解决神经网络在复杂系统建模中存在的主要问 题，并将其应用于木材表面缺陷识别。主要研究内容如下： 首先，针对网络结构固定情况下传统BP学习方法对网络学习易陷入局部极值、学 习精度不高等缺陷，提出一种基于BP算子的粒子群(PSO)优化神经网络权值的学习方 法。该方法有效结合粒子群算法和BP算法优点，在PSO全局勘探和BP局部开发之间能 给出一个较好的折中；更重要的是该结合方式能给PSO进化和BP搜索之间提供一个相 互充分作用的机会，即在PSO每代寻优解的基础上执行BP操作可以获得精度更高的优 化解，同时该优化解又返回到粒子群优化过程并共享其位置信息引导群体的快速进化， 两种算法之间相辅相成，相互促进来达到共同的寻优目的。实验结果表明该学习方法学 习精度高，收敛速度快，在性能上优于常规神经网络的学习方法。 其次，针对单一进化算法对复杂优化问题存在早熟收敛、优化效率低的问题，提出 一种实数编码遗传算法与粒子群优化方法相结合的改进混合遗传算法(IHGA)，该方法 引入生态