神经网络总结报告.docVIP

PAGE 0 神经网络总结报告 ——典型神经网络模型及其应用 (学位课) 姓名：刘明均 学号：1011220694 班级：研2-103班 导师：任爱锋 典型神经网络模型及其应用 摘要：随着神经网络研究的深入，神经网络在理论上有了很大突破，并在实践中发挥着越来越重要的作用。本文介绍了径向基网络，支撑矢量机，小波神经网络，反馈神经网络这几种典型的神经网络结构模型、特点及应用。 关键词： 神经网络 径向基网络 支撑矢量机 小波神经网络 反馈神经网络 Abstract: With in-depth study of neural networks, neural networks have great breakthrough in theory and in practice is playing an increasingly important role. This article introduced the RBF networks, support vector machines, wavelet neural networks, feedback neural networks with their concepts, features and applications in scientific research field. Key words: neural networks, RBF networks, support vector machines ,wavelet neural networks ,feedback neural networks. 1引言 神经网络以其快速的并行处理能力和其强有力的学习能力而获得越来越广泛的重视,神经网络系统最主要的特征是大规模模拟并行处理、信息的分布式存储,高度的容错性和自组织、自学习及实时处理,它可以直接输入样本,信息处理分布于大量神经元的互连之中,并且具有冗余性。随着对神经网络理论的不断深入研究，其应用目前已经渗透到各个领域。并在智能控制，模式识别，计算机视觉，自适应滤波和信号处理，非线性优化，语音识别，传感技术与机器人，生物医学工程等方面取得了巨大的成绩。本文主要介绍几种典型的神经网络，径向基神经网络，支撑矢量机，小波神经网络和反馈神经网络的概念及它们在科研中的一些具体应用。希望读者对了解典型的神经网络及其应用领域有所帮助。 2径向基神经网络 2.1径向基神经网络简介 1985年，Powell提出了多变量插值的径向基函数（Radial Basis Function，简称RBF）方法。RBF神经网络是由J.Moody和C.Darken于20世纪80年代末提出的一种神经网络结构。目前已经证明，径向基网络能够以任意精度逼近连续函数。 RBF网络的结构与多层前向网络类似，它是一种三层前向网络（如图1）。输入层由信号源结点组成。第二层为隐含层，单元数视所描述问题的需要而定。第三层为输出层，它对输入模式的作用做出响应。从输入空间到隐含空间的变换是非线性的，而从隐含层空间到输出层空间的变换是线性的。隐单元的变换函数是RBF，它是一种局部分布的中心点径向对称衰减的非负非线性函数。 图1 径向基函数神经网络 图2 高斯函数的特性曲线 隐含层节点中的作用函数（基函数）对输入信号将在局部产生响应（参见图2），也就是说，当输入信号靠近基函数的中央范围时，隐含层节点将产生较大的输出，这正体现了大脑皮质层的反应特点，由此看出这种网络具有局部逼近能力，所以径向基函数网络也称为局部感知场网络。常用的径向基函数有以下几种形式： 以上这些函数都是径向对称的，但最常用的是高斯函数，即上面的Ri(x)。式中：x是n维输入向量;Ci是第i个基函数的中心，与x具有相同维数的向量；是第i个感知的变量（可以自由选择的参数），它决定了该基函数围绕中心点的宽度；m 是感知单元的个数（隐含层节点数）。是向量的范数，它通常表示x与Ci之间的距离；Ri(x)在Ci处有一个唯一的最大值，随着的增大，Ri(x)迅速衰减到零。对于给定的输入，只有一小部分靠近经x的中心被激活。 构成RBF网络的基本思想是：用RBF作为隐单元的“基”构成隐含层空间，这样就可将输入矢量直接（即不通过权连接）映射到隐空间。当RBF的中心点确定以后，这种映射关系也就确定了。而隐含层空间到输出空间的映射是线性的，即网络的输出是隐单元的线性加权和。此处的权即为网络可调参数。由此可见，从总体上看，网络由输入到输出的映射是非线性的，而网络输出对可调参数而言却又是线性的。这样网络的权就可以由线性方程组直接解出或用RLS方法递推计算，从而大大加快学习速度并避免局部极小问题。如果要实现同一个功能，RBF网络的神经元个数可能要比前向BP网络的神