人工神经的发展历程和分类作业3000000111111.docxVIP

人工神经的发展历程和分类 发展历史 1943年， HYPERLINK /doc/4695841.html \t _blank 心理学家W.S.McCulloch和数理 HYPERLINK /doc/2965564.html \t _blank 逻辑学家W.Pitts建立了神经网络和数学模型，称为MP模型。他们通过MP模型提出了神经元的形式化数学描述和网络结构方法，证明了单个神经元能执行逻辑功能，从而开创了人工神经网络研究的时代。1949年，心理学家提出了突触联系强度可变的设想。 60年代，人工神经网络得到了进一步发展，更完善的神经网络模型被提出，其中包括感知器和自适应线性元件等。M.Minsky等仔细分析了以感知器为代表的神经网络系统的功能及局限后，于1969年出版了《Perceptron》一书，指出感知器不能解决高阶谓词问题。他们的论点极大地影响了神经网络的研究，加之当时串行 HYPERLINK /doc/3435270.html \t _blank 计算机和人工智能所取得的成就，掩盖了发展新型计算机和人工智能新途径的必要性和迫切性，使人工神经网络的研究处于低潮。在此期间，一些人工神经网络的研究者仍然致力于这一研究，提出了适应谐振理论（ART网）、自组织映射、认知机网络，同时进行了神经网络数学理论的研究。以上研究为神经网络的研究和发展奠定了基础。 1982年，美国加州工学院物理学家J.J.Hopfield提出了Hopfield神经网格模型，引入了“计算能量”概念，给出了网络稳定性判断。 1984年，他又提出了连续时间Hopfield神经网络模型，为神经计算机的研究做了开拓性的工作，开创了神经网络用于联想记忆和优化计算的新途径，有力地推动了神经网络的研究，1985年，又有学者提出了波耳兹曼模型，在学习中采用统计热力学模拟退火技术，保证整个系统趋于全局稳定点。 1986年进行认知微观结构地研究，提出了并行分布处理的理论。人工神经网络的研究受到了各个 HYPERLINK /doc/3696130.html \t _blank 发达国家的重视，美国国会通过决议将1990年1月5日开始的十年定为“脑的十年”，国际研究组织号召它的成员国将“脑的十年”变为全球行为。在日本的“真实世界计算（RWC）”项目中，人工智能的研究成了一个重要的组成部分。 神经网络模型的分类 人工神经网络的模型很多，可以按照不同的方法进行分类。1 按照网络拓朴结构分类网络的拓朴结构，即神经元之间的连接方式。按此划分，可将神经网络结构分为两大类：层次型结构和互联型结构。层次型结构的神经网络将神经元按功能和顺序的不同分为输出层、中间层（隐层）、输出层。输出层各神经元负责接收来自外界的输入信息，并传给中间各隐层神经元；隐层是神经网络的内部信息处理层，负责信息变换。根据需要可设计为一层或多层；最后一个隐层将信息传递给输出层神经元经进一步处理后向外界输出信息处理结果。而互连型网络结构中，任意两个节点之间都可能存在连接路径，因此可以根据网络中节点的连接程度将互连型网络细分为三种情况：全互连型、局部互连型和稀疏连接型2 按照网络信息流向分类从神经网络内部信息传递方向来看，可以分为两种类型：前馈型网络和反馈型网络。单纯前馈网络的结构与分层网络结构相同，前馈是因网络信息处理的方向是从输入层到各隐层再到输出层逐层进行而得名的。前馈型网络中前一层的输出是下一层的输入，信息的处理具有逐层传递进行的方向性，一般不存在反馈环路。因此这类网络很容易串联起来建立多层前馈网络。反馈型网络的结构与单层全互连结构网络相同。在反馈型网络中的所有节点都具有信息处理功能，而且每个节点既可以从外界接受输入，同时又可以向外界输出。3 从拓扑结构角度划分 根据拓扑网络结构可以划分为两层神经网络、三层神经网络和多层神经网络。神经网络分为输入层、输出层和隐藏层（如果可能）。人工神经网络的复杂程度由网络的层数和每层的处理单元有关。其节点又称为输入节点，输出节点和隐藏节点。其中：输入节点负责接收和处理训练样本集中各输入变量值，输入节点数由数变量数决定；隐藏节点负责实现非线性样本的线性变换，隐藏层的节点个数和层数可自行决定；输出节点负责给出输出变量的分类预测结果。如果输出变量为二分类型（即Flag型），则输出节点个数为2，取值为二进制的0和1；如果输出变量为多分类型（Set型），则输出节点个数为3，取值为二进制的0和1；如果输出变量为数值型变量，则输出节点数为1. 4 从连接方式角度划分 神经网络人链接分为层间连接和层内连接，连接强度用权值表示。从连接方式可以分为下面两种： 前馈式神经网络：前馈式神经网络的连接是意向的，上层节点的输出是下层节点的输入。目前数据挖掘软件中的神经网络大多为前馈式神经网络。 反馈