人工智能神经网络.pptVIP

人工神经网络 ;1 神经网络概述 ;从模仿人脑智能的角度出发，来探寻新的信息表示、存储和处理方式，设计全新的计算处理结构模型，构造一种更接近人类智能的信息处理系统来解决传统的冯·诺依曼计算机难以解决的问题，必将大大促进科学进步，并会在人类生活的各个领域引起巨大的变化，?人工神经网络（Artificial Neural Networks，以下简写为NN）系统 ;所谓NN就是为模仿人脑工作方式而设计的一种机器，它可用电子或光电元件实现，也可用软件在常规计算机上仿真。或者说NN是一种具有大量连接的并行分布处理器，它具有通过学习获取知识并解决问题的能力，且知识是分布储存在连接权（对应于生物神经元的突触）中，而不是像常规计算机那样按地址存在特定的存储单元中 ;尽管目前人们对大脑神经网络的结构、运行机制，甚至单个神经细胞的工作原理了解还很肤浅，但是基于生物神经系统的分布式存储、并行处理、自适应学习这些现象，已经构造出具有一些低级智慧的人工神经网络系统 当然这种人工神经网络只是对大脑的粗略而简单的模仿，无论在功能上，还是在规模上都比真正的神经网络差得很远，但它在一些科学研究和实际工程领域中已显示了很大的威力 ;从80年代初神经网络的研究再次复苏并形成热点以来，发展非常迅速 在理论上，对它的计算能力、对任意连续映射的逼近能力、学习理论及动态网络的稳定性分析等都取得了丰硕的成果 在应用上已迅速扩展到许多重要领域 ;应用领域 （1）模式识别与图象处理 印刷体和手写体字符识别，语音识别，签字识别，指纹识别，人脸识别，癌细胞检测，心电图和脑电图分类，RNA和DNA识别，油气贮藏勘测，加速器事故检测，目标检测与识别，图象压缩，图象复原 （2）控制与优化 化工过程控制，机械手运动控制，电弧炉电极控制，半导体生产中掺杂控制，石油精炼和食品工业中优化控制，VLSI（超大规模集成电路）布线设计 （3）预测与管理 股市预测，有价证券管理，借贷风险分析，信用卡管理，机票管理 （4）通信 自适应均衡，回波抵消，路由选择，ATM网络中的呼叫接纳识别及控制 （5）其它应用 导航，光学望远镜聚焦，运载体轨迹控制，电机故障检测以及多媒体 ;2 人工神经元模型 ;1 神经元模型 ;1 神经元模型 神经元模型数学式表达： 式中x1，x2，x3，…，xp为输入信号，wk1，wk2，wk3，…，wkp为神经元k之权值，uk为线性组合结果，θk为阈值。?(·)为激励函数，yk为神经元k的输出 ;1 神经元模型 当把输入的维数增加一维，从而把阈值θk包括进去： ;1 神经元模型 当考虑阈值θk，则其数学表达： yk = ?(vk) 此处增加一新连接，其输入为x0= -1，权值为：wk0=θk(阈值) (或x0= +1，权值为：wk0=bk(偏置bk=- θk)) ;1 神经元模型 激励函数?(·)可以有如下几种形式： ① 阈值函数 ? 常称此种神经元为M-P模型;1 神经元模型 激励函数?(·)可以有如下几种形式： ② 分段线性函数 ? 类似一带限幅线性放大器 在线性区时，其放大倍数为1 ;1 神经元模型 激励函数?(·)可以有如下几种形式： ③ Sigmoid函数 参数?可控制其斜率 具有平滑/渐近性，保持单调性 ;1 神经元模型 激励函数?(·)可以有如下几种形式： ③ Sigmoid函数 相对于其它两类函数，Sigmoid函数最为常用 另一种常用的是双曲正切函数： ;… ;2 神经网络结构及工作方式 除单元特性外，网络的拓扑结构也是NN的一个重要特征，从连接方式看NN主要有两种： ② 反馈型网络 所有节点都是计算单元，同时也 可接受输入，并向外界输出。它 可画成一个无向图，其中每个连 接线都是双向的。若总单元数为 n，则每一节点有n-1个输入和1个输出 ;2 神经网络结构及工作方式 NN的工作过程主要分为两个阶段： 第一阶段是学习期——此时各计算单元状态不变，各连线上的权值通过学习来修改 第二阶段是工作期——此时连接权固定，计算单元状态变化，以达到某种稳定状态 从作用效果看，前馈网络主要是函数映射，可用于模式识别和函数逼近 按对能量函数的所有极小点利用情况，可将反馈网络分： 一类是能量函数的所有极小点都起作用 主要用做各种联想存储器 另一类只利用全局极小点 主要用于求解优化问题 ;3、神经网络的学习方法 ;1 学习方式 通过向环境学习获取知识并改进自身性能是NN的一个重要特点 在一般情况下，性能的改善是按某种预定的度量通过调节自身参数（如权值）随时间逐步达到的 按环境提供信息量的多少，学习方式有三种： ① 监督学习（有教师学习） 需要外界存在一个“教师”，他可对给定一组输入提供应有的输出结果