基于复杂性层级结构神经网络组合研究.docVIP

基于复杂性层级结构神经网络组合研究 　　摘要：大脑大量的神经细胞数量和复杂的联系是处理信息的物质基础。由于包含神经元数量太少，现存各类人工神经网络难以胜任更加复杂的工作。复杂性理论的层级结构提供了以简单基本系统组建大规模系统的基本方法。神经解剖学关于大脑分区、分层、脑细胞垂直柱的概念，为构建基本子系统和实现子系统之间的连接提供了启示。在此基础上，以单个神经网络作为垂直柱单位的模拟，建立了组合神经网络的模型。基于这种可以包含大量神经元的模型，将有可能发展出适用于大规模信息处理的人工神经网络。 　　关键词：复杂性；层级结构；垂直柱；信息处理；人工神经网络 　　中图分类号：TP389文献标识码：A文章编号：1009-3044(2008)35-2235-02 　　The Study for Assembling ANN by the Hierarchy of Complexity 　　WANG Bo, HE Shan 　　(Economic and Management School, South West Petroleum University, Chengdu 610500, China) 　　Abstract: Brains process information with their great numbers of the neuron cell and complicated relationships between them. Today’s ordinary ANN cannot deal with the sophisticated task since it’s limited scale. According to the theory of hierarchy of complexity and the Vertical organization in brain cell, a kind of large scale ANN system model can be build for information processing. 　　Key words: complexity; hierarchy; vertical organization; informaitong processing; ANN. 　　 　　1 引言 　　 　　信息管理和信息处理的主要对象是通过人类语言表达的知识。这种知识，从本质上看，是人类大脑新皮层进化的产物，与高度抽象化的模式识别能力有关。从某种程度上看，智能的基础是模式记忆和识别的能力。依据不同的研究结果，人类大脑拥有从一百至数百亿个神经元，这些神经元、他们之间的联系以及各种生化物质和反应，建立了我们生物智能的基础。这种复杂的结构帮助我们识别世界的不同模式，并产生不同的反应。有些模式是简单的，如生物反射；有些模式很复杂，比如视觉和听觉；还有些模式高度抽象，比如语言和文字。经过多年的发展，人工神经网络研究取得了很大的进展，学者们建立了各种不同的模型，比如BP网络，Hamming竞争以及Hopfield网络等，也广泛参考其他学科提出了很多有效的算法。但目前构建的很多人工网络系统规模都仍然十分有限，属于局部结构。这些网络包含的神经元数量有限，网络结构简单，如BP网络，实际应用中几十个神经元，2～3层的网络。有限的规模，导致了人工系统的储存模式和识别的能力受到限制，作为普通分类器可以有效运用，然而如果问题规模很大，现有神经网络效果并不理想。更加抽象的模式分类，如语言和文字，人工网络目前就更难象人脑那样实现大规模的高度抽象的建模和识别。如何根据复杂性原理，用现有的局部神经网络结构构建大规模的神经网络，可能是提高人工神经网络处理信息能力的途径之一。 　　 　　2 复杂系统与脑神经层级结构 　　 　　2.1 复杂系统的层级结构 　　如何利用现有的简单神经元搭建复杂系统结构？西蒙（司马贺）在其简明杰作《人工科学》探讨了复杂性的结构。[1]他认为复杂性是从简单性进化而来的，可以借助层级理论构建复杂系统。自然中大部分复杂系统都呈现出层级结构：大系统由相互联系、相互作用的子系统组成，而子系统也常常是层级式的；子系统之下有它们的子系统，直到某个基本的最低层次。 　　层次结构的一些基本概念与分析方法： 　　1）层级结构系统通常由适量的子系统组成。例如，20种氨基酸的不同排列组成了地球上所有不同的蛋白质类型。 　　2）层级结构有助于进化。1955年，雅各布森（H. Jacobson）基于信息论、热力学的严格分析，论证从简单元素到复杂形态的进化所需要的时间之长，简直意味着进化不大可能发生。但是，如果考虑到中间形态（或组件、中间件）的存在，同样严格的分析表明，进化