7智能计算导论_神经网络1.pptVIP

智能计算导论第三章 人工神经网络 西安电子科技大学 智能科学与技术系 传输函数作用的实例 n a=Hardlim (1.5) f a=Hardlims (1.5) a=Pureline (1.5) a=Satlins (1.5) a=Logsig (1.5) 网络结构—神经元的层 输入 S个神经元的层 神经元的层简化模型 b = p = a = 输入 第1层 第2层 第3层 多层神经网络（3层） a1=f 1(W1p+b1) a2=f 2(W2p+b2) a3=f 3(W3p+b3) p 多层神经网络（3层）简化表示 输入 第1层 第2层 第3层 输出层 隐含层 a3=f 3(W 3f 2(W2f 1(W 1p+b1) +b2) +b3) 多层神经网络讨论 多层网络的功能强于单层网络 网络结构的确定： 输入个数 输出个数 隐含神经元数 传输(节点)函数 网络层数：2－3层 神经网络权值 延时模块(Delays) 递归网络－构造块 积分模块( Integrators) a(t)=u(t-1) 递归网络（Recurrent Network） 初始条件 递归层 a(t+1)=satlins(Wa(t)+b) … 递归神经网络简单讨论 反馈的作用 时间性 前向网络的特点是将神经元分层，每层神经元之间没有信息交流，一层一层同步计算；反馈神经网络则将整个网络视为整体，神经元之间相互作用，计算也是整体的。 一个说明性实例 一个说明性实例 苹果=[红色,圆球]＝[－1，1] 橘子=[黄色,扁球]＝[1，0.5] 1 0 y=kx+b y=-0.25x+0.75 y=kx+b 外形 颜色 橘子 苹果 -1x’1, 0.5y1 一个说明性实例 W＝[－1，1] p＝[－1，1] p＝[1，0.5] n=Wp+b 2+b0 -0.5+b0 -2b0.5 一个说明性实例 W k1=-1 k2=1 判定边界总是和权值矩阵正交 人工神经网络最具有吸引力的特点是它的学习能力。 1962年，Rosenblatt给出了人工神经网络著名的学习定理：人工神经网络可以学会它可以表达的任何东西。 人工神经网络的表达能力大大地限制了它的学习能力。 人工神经网络的学习过程就是对它的训练过程 学习规则就是修改神经网络权值(包括偏置值)的方法和过程(也称这种过程是训练算法) 人工神经网络的学习 有导师学习(Supervised Learning)与有导师训练(Supervised Training)相对应。 输入向量与其对应的输出向量构成一个“训练对”。 有导师学习的训练算法的主要步骤包括： 1）? 从样本集合中取一个样本（Ai，Bi）； 2）? 计算出网络的实际输出O； 3）? 求D=Bi-O； 4）? 根据D调整权矩阵W； 5） 对每个样本重复上述过程，直到对整个样本集来说，误差不超过规定范围。 学习方法—有导师学习 无导师学习(Unsupervised Learning)与无导师训练(Unsupervised Training)相对应 仅仅依据网络输入调整神经网络权值(包括偏置值)，无目标输出 完成聚类，将输入模式分类 抽取样本集合中蕴含的统计特性，并以神经元之间的联接权的形式存于网络中。 学习方法—无导师学习 与有导师学习类似 无确定目标输出，对应一个级别，而该级别对应网络性能测度 比较适合控制等工程应用系统 外部环境对系统的输出结果给出评价，学习系统通过强化受奖的动作来改善自身性能。（再例学习） 学习方法—增强学习 思考题 1. 有一单层神经网络，具有6个输入和两个输出。输出被限定为0到1之间的连续值。叙述网络的结构，说明： 需要多少神经元； 权值的维数是多少 采用什么传输函数 是否需要采用偏值 思考题 2. 有一单级压缩机，需要通过温度、压力和噪声来判定其工作是否正常。现假设温度、压力和噪声分别为1，1，1时为正常，0，0，0时为异常，请设计一感知器加以判定。并说明： 需要多少神经元； 权值的维数是多少 采用什么传输函数 是否需要采用偏值 补充读物 查阅相关神经网络的图书资料，进一步了解： 神经网络的发展现状 人工神经元的构造方法 人工神经网络的基本结构 人工神经网络的学习算法 人工神经网络的应用 * Artificial Neural Networks，简记作ANN 是对人类大脑系统的一阶特性的一种描述。简单地讲，它是一个数学模型，可以用电子线路来实现，也可以用计算机程序来模拟，是人工智能研究的一种方法。 人工神经网络 人工神经系统（ANS） 神经网络（NN） 自适应网（Adaptive Networks） 联接主义（Connectionism） 神经计算机（Neurocomputer） 人工神经网络的别名 人工神经网