计算机软件与理论硕士论文：稀疏网络_模拟退火_动力学_吸引子_伪吸引子.docVIP

计算机软件与理论硕士论文：固定稀疏度神经网络的动力学研究 【中文摘要】本文推广蒙特卡罗变异优化设计规则,设计了具有固定稀疏度的稀疏网络,同时对这种稀疏网络的动力学特性进行了研究,并和全连接网络进行了比较。针对传统反馈神经网络存在的一个共同问题,即有大量的伪吸引子,赵鸿教授提出了一套神经网络设计方法,称为蒙特卡罗变异优化设计规则。之后,通过对它的扩展和推广,提出了适用于一般化的非对称反馈神经网络的设计规则。然后用这种设计方法具体设计了全连接离散神经网络和稀疏连接的离散神经网络。通过对它们的动力学行为研究初步发现,稀疏网络的性能要比全连接网络的差一点。同时,用这种设计规则设计的稀疏网络的稀疏度的数量和位置都不是固定的。也没有研究稀疏度对网络性能的影响。在这篇文章中,基于蒙特卡罗变异优化规则,利用模拟退火稀疏化方法,设计了具有固定稀疏度的稀疏网络,分析了这种网络的性能。经过数值模拟分析发现,这种具有固定稀疏度的稀疏网络的动力学特性与原来的二值权重非对称网络基本一致,也存在三个相区。在网络的存储能力方面,要明显低于全连接网络。在学习时间方面,要明显高于全连接网络。而检索时间要比全连接网络短。另外,这种网络的三相态,综合了全连接网络和离散稀疏网络的特点。不再具有严格的第一相变点。... 【英文摘要】This paper extend a recently presented method of designing asymmetry neural networks with associate memory, designing a diluted neural network which has fixed degree of dilution, and study the dynamics of this diluted neural network, and compare its performance with full connected neural network.In traditional feed-back neural network, the common problem is that there are spurious memories. Then a new method was presented to design asymmetric neural network, which is called Monte Carlo-MC adaptation rul... 【关键词】稀疏网络 模拟退火 动力学 吸引子 伪吸引子 【英文关键词】diluted neural network anneal dilution dynamics memory spurious memory 【目录】固定稀疏度神经网络的动力学研究 摘要 4-5 Abstract 5 第一章 绪论 8-13 1.1 研究现状 8-9 简介 8 对称神经网络 8-9 稀疏神经网络 9 1.2 研究内容 9-12 1.3 文章结构 12-13 第二章 神经网络简介 13-26 2.1 生物脑神经元的结构和动作 13-14 2.2 人工神经网络 14-21 简介 14-15 发展历史 15-17 实现技术 17 特点 17-18 应用 18-20 优缺点 20-21 2.3 神经元的数理模型 21-22 2.4 人工神经网络的结构 22-24 分类 22-23 构建步骤 23-24 2.5 学习算法 24-26 有监督的学习 24 无监督的学习 24 增强学习 24-26 第三章 固定稀疏度神经网络的设计规则 26-30 3.1 蒙特卡罗变异规则 26 3.2 一般化的设计非对称网络的方法 26-27 3.3 设计算法 27-28 3.4 固定稀疏度的稀疏网络的设计方法 28-30 第四章 固定稀疏度的稀疏网络和全连接网络的动力学分析 30-35 4.1 网络存储能力 33-34 4.2 学习时间和检索时间 34-35 第五章 固定稀疏度神经网络研究总结 35-37 第六章 神经网络在安全关键系统中应用的探讨 37-40 参考文献 40-45 在学期间完成的学术论文 45-46 作者研究生期间参与项目 46-47 致谢 47