基于核的增强型联想记忆模型及推广性研究-毕业论文.docVIP

基于核的增强型联想记忆模型及推广性研究  南京航空航天大学博士学位论文 　 摘　　要　 　 联想记忆（AM）是人脑极其重要的功能之一，是逻辑思维和形象思维、推 理和创新的源泉。因此，试图通过对其某些简单功能的模拟或模仿给当前的机器 赋予类似人脑的简单功能，一直是人们追求的目标。经过二十多年的研究，AM 神经网络已经发展成为一类重要的人工神经网络，并已被广泛地应用于优化计 算、纠错编码、数据压缩和模式识别等领域。 本文紧紧围绕 AM 研究的两个核心─学习算法与体系结构对联想记忆模型 展开改进研究。借助机器学习领域中流行的核技巧和现实社会中普遍存在的小世 界网络，提出了相应的 AM 改进模型，并将其应用于人脸识别、手写体识别问题。 本文的创造性研究成果主要有：　 （１）提出了模糊形态学联想记忆（FMAM）模型。FMAM 具有与经典联想 记忆和模糊联想记忆完全不同的特性。它不仅保持了 MAM 抗腐蚀／膨胀噪声的 优点，而且自联想 FMAM 具有无限存储容量，能保证完全回忆，且回忆在一步 内完成。并且给出了上述特性的定理证明。此外，FMAM 还可以模糊性解释。 通过与模糊联想记忆（FAM）的比较揭示出在特定条件下，FMAM 可视作 FAM 的一种新的编码方式。　 （２）借助当前普遍使用的核方法，针对 FMAM 和 MAM 对混合噪声极其敏 感的缺点进行了改进，提出了基于经验核映射的增强型 FMAM（EFMAM）。 EFMAM 的实质是在不改变原始 FMAM 结构和编码策略的前提下，借助经验核 映射，将原始输入空间中的模式映射到由训练模式张成的相似度空间中，从而达 到双重抗噪性（一是由于经验核映射的引入，二是自联想 FMAM 本身的抗噪性） 的目的。因此，它不仅继承了自联想 FMAM 的良好特性，而且解决了混合噪声 问题，拓宽了 FMAM 的应用领域。实验结果表明，在相同程度的混合噪声下， EFMAM 的识别准确率要比自联想 FMAM 的高得多。　 （３）针对 EFMAM 由于网络规模过大可能导致的硬件实现困难进行进一步 改进，提出了经济型 EFMAM（E2FMAM）。通过定义经验核映射向量的经济化 准则，并借助遗传算法优化该准则，使需存储的经验核映射向量的维数得到了大 幅度约简，从而缩小了 EFMAM 的网络规模，方便了硬件实现。虽然只是对原 始 EFMAM 的训练过程添加了如此简单的一步，但是效果显著。不仅节约了存 储空间和至少一半的计算时间，而且在不同类型噪声和不同丢块方式下，保持了 与未经济化 EFMAM 相当的识别性能。此外，E2FMAM 对图像尺寸的不敏感性 为我们处理大尺寸图像识别问题带来了极大的方便。　 i 基于核的增强型联想记忆模型及推广性研究 （４）将 EFMAM 和 E2FMAM 应用于人脸识别。并且与目前占主导地位的 基于特征脸的人脸识别算法作了大量实验比较，发现当人脸图像包含噪声点或者 部分信息缺失时，基于特征脸的人脸识别算法的识别性能会显著降低，而 EFMAM 和 E2FMAM 显得更为鲁棒。　 （５）从网络体系结构角度出发，提出了基于小世界体系结构的指数联想记 忆模型，包括单向和双向两种方式。通过定义相应的能量函数，证明了其稳定性。 还在理论上分析了其存储容量。与已有 AM模型（基于小世界体系结构的 Hopfield AM 模型和全互连指数双向 AM 模型）的比较实验表明所提模型具有良好的纠错 性能。　 　 　 关键字：联想记忆，经验核映射，形态学联想记忆，模糊，小世界体系结构， 人脸识别，人工神经网络 ii 南京航空航天大学博士学位论文 　 ABSTRACT 　 Associative memory (AM) is one of the most important functions of human brain. It is the source of logic thinking and image thinking, deduction and innovation. Thus, the trial to have the existing machine mimic some simple functions of brain is always the human beings’goal. Through more than twenty years’research, associative neural networks have been developed into an important class of artificial neural networks. And they have been widely applied to many fields such as