人工神经网络2神经元模型和网络结构.pptVIP

神经元的层 Layer of Neurons 多个并行操作的神经元 输入向量p的每个元素均通过权值矩阵W和每个神经元相连。 神经元的层 Layer of Neurons p = p1 p2 pR 输入向量通过如下权矩阵W进入网络： 同样，具有S个神经元、R个输入的单层网络也能用简化的符号表示为如图所示的形式。 a 神经元的层 Layer of Neurons b 1 2 S = b b b p p 1 p 2 p R = a 1 a 2 a S = ... ... ... 多层神经元 Multilayer Network 层上标 现在考虑具有几层神经元的网络。每个变量都附加一个上标来表示其所处层次。图所示的三层网络就使用了这种标记方法。 该三层网络同样也可以用简化的符号表示 多层神经元 Multilayer Network 隐含层 输出层 输入层 简化符号 输入层 隐含层 如果某层的输出是网络的输出，那么称该层为输出层，而其他层叫隐含层。 延时器和积分器 延时器 延时 在讨论递归网络前，首先介绍一些简单的构造模块。第一种是延时模块。 延时器和积分器 积分器 积分器 另一种将用于Hopfield网络中的连续时间递归网络的构造模块是积分器。 递归网络（反馈网络） 初始条件 对称饱和线性层 递归网络 一个递归网络是一个带反馈的网络，其部分输出连接到它的输入。一种类型的离散时间递归网络。 递归网络（反馈网络） 初始条件 对称饱和线性层 如何选取一种网络结构 应用问题的描述从如下几个方面非常有助于定义网络的结构： (1)网络的输入个数=应用问题的输入数； (2)输出层神经元的数目=应用问题的输出数目； (3)输出层的传输函数选择至少部分依赖与应用问题的输出描述。 例题 一个单输入神经元的输入是2.0，其权值是2.3，偏置值是-3。 （i）传输函数的净输入是多少？ （ii）神经元的输出是多少？ 解 （i）传输函数的网络输出由下式给出： （ii）因为未指定传输函数，所以不能确定该神经元的输出。 例题 如果上例的神经元分别具有如下传输函数，请问其输出值分别是多少？ （i）硬极限函数 （ii）线性函数 （iii）对数-S形（logsig）函数 解 （i）硬极限传输函数有 （ii）线性传输函数有 （iii）对数-S形传输函数有 例题 给定一个具有如下参数的两输入神经元：b=1.2,w=[3 2],p=[-5,6]T ，试依据下列传输函数计算神经元输出： （i）对称硬极限传输函数 （ii）饱和现行传输函数 （iii）双曲正切S形（tansig）传输函数 解 首先计算净输入n: 例题 现针对每种传输函数计算该神经元的输出。 例题 现有一个单层神经网络，具有6个输入和2个输出。输出被限制为0到1之间的连续值。叙述该网络的结构，请说明： （i）需要多少个神经元？ （ii）权值矩阵的维数是多少？ （iii）能够采用什么传输函数？ （iv）需要采用偏置值吗？ 例题 解：该问题的求解结构如下： (i)需要两个输出神经元，每个输出一个。 (ii)对用2个神经元和6个输入，权值矩阵应有2行6列（乘积Wp是一个二元向量）。 (iii)根据前面所谈论的传输函数性质，选用logsig传输函数是最适合的。 (iv)题中未能给出足够的条件以确定是否需要偏置值 * * * 生物神经元－－信息处理单元 信息输入 生物神经元－－信息处理单元 信息 　传播与处理 生物神经元－－信息处理单元 信息 　传播 与处理（整合） 生物神经元－－信息处理单元 信息 　传播与处理：兴奋抑制 生物神经元－－信息处理单元 信息输出 生物神经元对应人工神经元 人工神经元－－信息处理单元 信息输入 人工神经元－－信息处理单元 信息 　传播与处理： 积与和 人工神经元－－信息处理单元 信息 　传播与处理： 积与和 人工神经元－－信息处理单元 信息 　传播与处理: 非线性 人工神经元－－信息处理单元 信息输出 人工神经元－－信息处理单元 人工神经－－信息处理单元 人工神经元信息输入输出 人工神经元信息输入输出 人工神经元信息输入输出 人工神经元信息输入输出 原理和实例 符号 图、数字公式以及解释图和数字公式的正文，将使用一下符号： 标量：小写的斜体字母，如a,b,c。 向量：小写的黑正体字母，如a,b,c。 矩阵：大写的黑整体字母，如A,B,C。 单输入神经元模型 输入 通用神经元 单输入神经元模型 神经元按下式计算 例如，若w=3，p=2，b=1.5，则 传输函数 上例中传输函数可以是n的线性或者非线性函数。可以用特定的传输函数满足神经元要解决的特定问题。 本书包括了各个不同的传输函数。下面将讨论其中最常用的三种。 硬极限传输函数 线性传输函数