人工神经网络专用课件.pptVIP

Kohonen网络通过无导师的学习方式进行权值的学习，稳定后的网络输出就对输入模式生成自然的特征映射，从而达到自动聚类的目的 图 自组织神经网络 6.4 神经网络学习算法 神经网络学习算法是神经网络智能特性的重要标志，神经网络通过学习算法，实现了自适应、自组织和自学习的能力。 目前神经网络的学习算法有多种，按有无导师分类，可分为 有教师学习（Supervised Learning） 无教师学习（Unsupervised Learning） 再励学习（Reinforcement Learning）等 有教师的学习方式中，网络的输出和期望的输出（即教师信号）进行比较，然后根据两者之间的差异调整网络的权值，最终使差异变小 无教师的学习方式中，输入模式进入网络后，网络按照一预先设定的规则（如竞争规则）自动调整权值，使网络最终具有模式分类等功能 再励学习是介于上述两者之间的一种学习方式 图 有导师指导的神经网络学习 图 无导师指导的神经网络学习 6.4.1 Hebb学习规则 Hebb学习规则是一种联想式学习算法。生物学家D.O.Hebbian基于对生物学和心理学的研究，认为两个神经元同时处于激发状态时，它们之间的连接强度将得到加强，这一论述的数学描述被称为Hebb学习规则，即 最基本的神经网络学习算法 为连接从神经元 到神经元 的当前权值， 和 为神经元的激活水平。 Hebb学习规则是一种无教师的学习方法，它只根据神经元连接间的激活水平改变权值，因此，这种方法又称为相关学习或并联学习 6.4.2 Delta（δ）学习规则 假设误差准则函数为： 其中， 代表期望的输出（教师信号）； 为网络的实际输出， ； 为网络所有权值组成的向量： 为输入模式： 其中训练样本数为 。 神经网络学习的目的是通过调整权值W，使误差准则函数最小。 权值的调整采用梯度下降法来实现，其基本思想是沿着E的负梯度方向不断修正W值，直到E达到最小。数学表达式为： 其中 令 ，则 W的修正规则为 上式称为δ学习规则，又称误差修正规则。 6.5 神经网络特征 神经网络具有以下几个特征： 能逼近任意非线性函数 信息的并行分布式处理与存储 可以多输入、多输出 便于用超大规模集成电路（VISI）或光学集成电路系统实现，或 用现有的计算机技术实现 能进行学习，以适应环境的变化 6.6 神经网络控制的研究领域 1 基于神经网络的系统辨识 将神经网络作为被辨识系统的模型，可在已知常规模型结构的情况下，估计模型的参数 利用神经网络的线性、非线性特性，可建立线性、非线性系统的静态、动态、逆动态及预测模型，实现非线性系统的建模和辨识 (2) 神经网络控制器 神经网络作为实时控制系统的控制器，对不确定、不确知系统及扰动进行有效的控制，使控制系统达到所要求的动态、静态特性。 (3) 神经网络与其他算法相结合 将神经网络与专家系统、模糊逻辑、遗传算法等相结合，可设计新型智能控制系统。 (4) 优化计算 在常规的控制系统中，常遇到求解约束优化问题，神经网络为这类问题的解决提供了有效的途径。 目前，神经网络控制已经在多种控制结构中得到应用，如PID控制、模型参考自适应控制、前馈反馈控制、内模控制、预测控制、模糊控制等。 * * * * * * * * * * * * * * * * * * 人工神经网络Artificial Neural Network * * 人类具有高度发达的大脑，大脑是思维活动的物质基础，而思维是人类智能的集中体现。 思维是人脑的信息处理方式。人脑的思维有逻辑思维、形象思维和灵感思维三种基本方式。 逻辑思维的基础是概念、判断与推理，即将信息抽象为概念，在根据逻辑规则进行逻辑推理。 由于概念可用符号表示，而逻辑推理可按串行模式进行，这一过程可以写成串行指令由机器来完成。 计算机就是这样一种用机器模拟人脑逻辑思维的人工智能系统。 第6章 神经网络理论基础 * * 1997年5月11日深蓝战胜卡斯帕罗夫 1997年5月11日，早晨4时50分(北京时间)，一台名为“深蓝”的超级电脑将棋盘上的一个兵走到C4位置时，人类有史以来最伟大的国际象棋名家卡斯帕罗夫不得不沮丧地承认自己输了。世纪末的一场人机大战