神经网络研究报告.pptxVIP

神经网络;1. 什么是神经网络;神经网络的基础在于神经元。神经元是以生物神经系统的神经细胞为基础的生物模型。在人们对生物神经系统进行研究，以探讨人工智能的机制时，把神经元数学化，从而产生了神经元数学模型。 大量的形式相同的神经元连结在一起就组成了神经网络。神经网络是一个高度非线性动力学系统。虽然，每个神经元的结构和功能都不复杂，但是神经网络的动态行为则是十分复杂的；因此，用神经网络可以表达实际物理世界的各种现象。;人工神经网络是一种模拟人脑脑神经传递信息的方 式而建立起来的一种人工智能的方法，它是一种分布式的并行处理系统，其处理结果以权值形式分布存储在矩阵中。通过这种网络能够实现任意的非线性输入输出映射关系，具体的映射关系体现在构成网络的神经元之间的分布连接权上. 由于网络具有很强的自适应和学习能力以及鲁棒性和容错能力，它不仅可以替代许多复杂耗时的传统算法，并且由于它对信息的处理更加接近于人的思维活动习惯，为解决非线性系统模拟和未知模型的预测提供了新途径。 ;人工神经网络并非生物系统的逼真描述，只是某种模仿、简化和抽象。人工神经网络在构成原理和功能特点等方面比数字计算机更接近人脑，它不是按给定的程序一步一步地执行运算，而是能够自适应环境、总结规律、完成某种运算、识别或过程控制。; 人工神经网络的特点和优越性： 1.自学习和自适应性。 2.非线性性。 3.鲁棒性和容错性。 4.计算的并行性与存储的分布性。 5.分布式存储。 ;在控制领域的研究课题中，不确定性系统的控制问题长期以来都是控制理论研究的中心主题之一，但是这个问题一直没有得到有效的解决。利用神经网络的学习能力，使它在对不确定性系统的控制过程中自动学习系统的特性，从而自动适应系统随时间的特性变异，以求达到对系统的最优控制。 人工神经网络的模型现在有数十种之多，应用较多的典型的神经网络模型包括BP网络、霍普菲尔德（Hopfield）网络、ART网络。;神经网络的应用进展： ①模式分类：将一个n维的特征向量映射为一个标量或向量的分类标签。分类问题的关键在于寻找恰当的分类面，将不同类别的样本区分开。现实中的分类问题一般比较复杂，样本空间中相距较近的样本也可能分属不同的类别。神经网络良好的非线性性能可能很好地刻画非线性分类画面，带来更好的模式识别能力。 ②聚类:聚类不需要提供已知样本，而是完全根据给定的样本工作。只需给定聚类的类别数n，网络自动按样本间的相似性将输入样本分为n类。; ③回归和拟合：相似的样本在神经网络的映射下，往往能得到相近的输出。因此，神经网络对于函数拟合问题具有不错的解决能力。 ④优化计算:已知约束条件，寻找一组参数组合，使由该组合确定的目标函数达到最小值。BP网络和其他部分网络的训练过程就是调整权值是输出误差最小化的过程。 ⑤数据压缩：神经网络将特定只是存储于网络权值中，相当于将原有的样本用更小的数据量进行表示，这实际上是一个压缩的过程。;1.2基本概念;典型的人工神经元模型如下图所示：; 神经网络中神经元的构造方式是和训练网络的学习算法紧密相连的。一般来说，我们可以区分三种不同的网络结构。;②多层前馈网络 前馈网络的第二种网络有一层或多层隐藏节点层。相应的计算节点称为隐藏神经元。隐藏神经元的功能是以某种有用方式介入外部输入和网络输出之中。加上一个或多个隐藏层网络可以引入高阶统计特性。 输入层的源节点提供激活模式的元素（输入向量），组成第二层（第一隐藏层）神经元的输入信号。第二层输出信号作为第三层输入，这样一直传递下去。通常，每一层的输入都是上一层的输出，最后的输出层给出相对于源节点的激活模式的网络输出。 ; 对于神经网络具有首要意义的性质是网络能从环境中学习的能力，并通过学习改善其行为。神经网络通过施加于它的突触权值和偏置水平的调节的交互来学习它的环境。理想情况下，神经网络在每一层重复学习过程后对它的环境便有了更多了解。 我们对神经网络中这样定义学习：学习是一个过程，通过这个过程神经网络的自由参数在其嵌入的环境的激励过程之下得到调节。学习的类型由参数改变的方式决定。 学习过程中： ①神经网络被一个环境所激励。 ②作为这个激励的结构，神经网络在它的自由参数上发生变化。 ③由于神经网络内部结构的改变而以新的方式响应环境。 ;有监督学习。在有监督学习中的每一个训练样本都对应一个教师信号，教师信号代表了环境信息。网络将该教师作为期望输出，训练时计算实际输出与期望输出之间的误差，再根据误差的大小和方向对网络权值进行更新。这样的调整反复进行，直到误差达到预期的精度为止，整个网络形成了一个封闭的闭环系统。;无监督学习。网络只能接受一系列的输入