课件：神经网络理论基础.pptVIP

图 有导师指导的神经网络学习 ● ● ● ● ● ● ● ● ● ● ● ● x1 x2 xn b1 b2 bm 权向量W 图 无导师指导的神经网络学习 最基本的神经网络学习算法： 1.4.1 Hebb学习规则 Hebb学习规则是一种联想式学习算法。生物学家D.O.Hebbian基于对生物学和心理学的研究，认为两个神经元同时处于激发状态时，它们之间的连接强度将得到加强，这一论述的数学描述被称为Hebb学习规则，即 其中， 为连接从神经元 到神经元 的当前权值， 和 为神经元的激活水平。 Hebb学习规则是一种无教师的学习方法，它只根据神经元连接间的激活水平改变权值，因此，这种方法又称为相关学习或并联学习。 1.4.2 Delta（δ）学习规则 假设误差准则函数为： 其中， 代表期望的输出（教师信号）； 为网络的实际输出， ； 为网络所有权值组成的向量： 为输入模式： 其中训练样本数为 。 神经网络学习的目的是通过调整权值W，使误差准则函数最小。 权值的调整采用梯度下降法来实现，其基本思想是沿着E的负梯度方向不断修正W值，直到E达到最小。数学表达式为： 其中 令 ，则 W的修正规则为 上式称为δ学习规则，又称误差修正规则。 1.5 神经网络特征 神经网络具有以下几个特征： （1）能逼近任意非线性函数； （2）信息的并行分布式处理与存储； (3) 可以多输入、多输出； （4）便于用超大规模集成电路（VISI）或光学集成电路系统实现，或用现有的计算机技术实现； （5）能进行学习，以适应环境的变化。 1.6 神经网络控制的研究领域 1 基于神经网络的系统辨识 ① 将神经网络作为被辨识系统的模型，可在已知常规模型结构的情况下，估计模型的参数。 ② 利用神经网络的线性、非线性特性，可建立线性、非线性系统的静态、动态、逆动态及预测模型，实现非线性系统的建模和辨识。 (2) 神经网络控制器 神经网络作为实时控制系统的控制器，对不确定、不确知系统及扰动进行有效的控制，使控制系统达到所要求的动态、静态特性。 (3) 神经网络与其他算法相结合 将神经网络与专家系统、模糊逻辑、遗传算法等相结合，可设计新型智能控制系统。 (4) 优化计算 在常规的控制系统中，常遇到求解约束优化问题，神经网络为这类问题的解决提供了有效的途径。 目前，神经网络控制已经在多种控制结构中得到应用，如PID控制、模型参考自适应控制、前馈反馈控制、内模控制、预测控制、模糊控制等。 后面内容直接删除就行 资料可以编辑修改使用 资料可以编辑修改使用 主要经营：网络软件设计、图文设计制作、发布广告等 公司秉着以优质的服务对待每一位客户，做到让客户满意！ 致力于数据挖掘，合同简历、论文写作、PPT设计、计划书、策划案、学习课件、各类模板等方方面面，打造全网一站式需求 * * * * 第1章 神经网络理论基础 模糊控制从人的经验出发，解决了智能控制中人类语言的描述和推理问题，尤其是一些不确定性语言的描述和推理问题，从而在机器模拟人脑的感知、推理等智能行为方面迈出了重大的一步。 模糊控制在处理数值数据、自学习能力等方面还远没有达到人脑的境界。人工神经网络从另一个角度出发，即从人恼的生理学和心理学着手，通过人工模拟人脑的工作机理来实现机器的部分智能行为。 人工神经网络（简称神经网络，Neural Network）是模拟人脑思维方式的数学模型。 神经网络是在现代生物学研究人脑组织成果的基础上提出的，用来模拟人类大脑神经网络的结构和行为。神经网络反映了人脑功能的基本特征，如并行信息处理、学习、联想、模式分类、记忆等。 20世纪80年代以来，人工神经网络（ANN，Artificial Neural Network）研究所取得的突破性进展。神经网络控制是将神经网络与控制理论相结合而发展起来的智能控制方法。它已成为智能控制的一个新的分支，为解决复杂的非线性、不确定、未知系统的控制问题开辟了新途径。 神经网络的发展历程经过4个阶段。 1 启蒙期（1890-1969年） 1890年，W.James发表专著《心理学》，讨论了脑的结构和功能。 1943年，心理学家W.S.McCulloch和数学家W.Pitts提出了描述脑神经细胞动作的数学模型，即M-P模型（第一个神经网络模型）。 1.1 神经网络发展历史 1949年，心理学家