神经元模型和网络结构.ppt

* * 从生物控制与信息处理角度，神经元主要由细胞体、轴突、树突、突触等成分构成。 * * 4.4原理和实例 4.4.4神经元模型 1.单输入神经元 * * 硬极限传输函数 * * 线性传输函数 * * 对数-S形传输函数 * * 表1 传输函数 名称 输入/输出关系 MATLAB函数 硬极限函数 a=0,n<0 a=1,n≥0 hardlim 对数硬极限函数 a=-1,n<0 a=+1,n≥0 hardlims 线性函数 a=n purelin 饱和线性函数 a=0,n<0 a=n,0≤n≤1 a=1,n>1 satlin 对称饱和线性函数 a=-1,n<-1 a=n,-1≤n≤1 a=1,n>1 satlins 对数-S型函数 logsig 双曲正切S型函数 tansig 正线性函数 a=0,n<0 a=n,n≥0 poslin 竞争函数 a=1,具有最大n的神经元a=0,所有其他神经元 compet * * 3.多输入神经元 权值矩阵 通常，一个神经元有不止一个输入。具有R个输入的神经元如图5所示。 * * 该神经元有一个偏置值b，它与所有输入的加权和累加，从而形成净输入n: 矩阵形式： 神经元的输出可以写成： * * 权值下标 权值矩阵元素下标的第一个下标表示权值相应连接所指定的目标神经元编号，第二个下标表示权值相应连接的源神经元编号。 w 1.4的含义： 该权值表示从第四个神经元到第一个神经元的连接。 * * 简化符号 注：一般要标出变量的维数，这样可以立即知道 该变量是标量，还是向量或者矩阵。 * * 1.神经元的层 * * 上图中每个变量下的符号指明P是长度为R的向 量，W是一个S×R矩阵，a和b是长度为S的向量。 * * 4.多层神经元 层上标： 对于一个具有几层神经元的网络。每层都有 自己的权值矩阵等等参量，需要额外的符号 来区分这些层次。这里用上标来表示每个参量的所处的层次。 * * * * 输入层 隐含层 如果某层的输出是网络的输出，那么称该层 为输出层，而其他层叫隐含层。上图中的网 络有一个输出层（第3层）和两个隐含层（第 1层和第2层）。 * * 3.递归网络 延时：在讨论递归网络前，首先介绍一些简单　　 的构造模块。 延时输出a(t)由输入u(t)根据下式计算得到： a(t)= u(t-1) * * 积分器 初始条件由指向积分器模块底部的箭头来表示。 * * 递归网络： 利用上述的模块就可以构造出递归网络。一个递归网络是一 个带反馈的网络，其部分输出连接到它的输入。 图 前馈型神经网络 神经网络的连接结构 图 反馈型神经网络 图 自组织神经网络