第2章 神经元模型和网络结构.pptVIP

* * 第2章 神经元模型和网络结构 2.1 目的 2.2 理论和实例 2.2.1 符号 2.2.2 神经元模型 2.2.3 网络结构 2.3 小结 2.4 例题 2.5 结束语 2.1 目的 第1章给除了生物神经元和神经网络的简述。现在来介绍简化的神经元数学模型，并解释这些人工神经元如何相互连接形成各种网络结构。另外，本章还将通过几个简单的实例阐述这些网络如何工作。本书中将使用本章所引入的概念和符号。 2.2 原理和实例 2.2.1 符号 本书中的图、数字公式以及解释图和数字公式的正文，将使用一下符号： 标量：小写的斜体字母，如a,b,c。 向量：小写的黑正体字母，如a,b,c。 矩阵：大写的黑整体字母，如A,B,C。 ● ● ● 2.2.2 神经元模型 单输入神经元 权值 偏置(值) 净输入 传输函数 图2-1 单输入神经元 若将这个简单模型和前面第1章所讨论的生物神经元相对照，则权值w对应于突触的连接强度，细胞体对应于累加器和传输函数，神经元输出a代表轴突的信号。 神经元输出按下式计算： a=f(wp+b) 注：还有多阈值、多权值神经元 实际输出取决与所选择的待定传输函数。 2. 传输函数 图2-1中的传输函数可以是n的线性或者非线性函数。可以用特定的传输函数满足神经元要解决的特定问题。 本书包括了各个不同的传输函数。下面将讨论其中最常用的三种。 硬极限传输函数 线性传输函数 a=n (2.1) 对数-S形传输函数 a=1/1+e-n (2.2) a=hardlim(n) a=hardlim(wp+b) 硬极限传输函数 单输入hardlim神经元 图2-2 硬极限传输函数 a=purelin(n) a=purelin(wp+b) 线性传输函数 单输入purelin神经元 图2-3 线性传输函数 a=logsig(n) a=logsig(wp+b) Log-Sigmoid 传输函数 单输入logsig神经元 图2-4 对数-S形传输函数 compet a=1,具有最大n的神经元 a=0,所有其他神经元 竞争函数 poslin a=0,n0 a=n,n ≥ 0 正线性函数 tansig a=en-e-n/en+e-n 双曲正切S形函数 logsig a=1/1+e-n 对数-S形函数 satlins a=-1,n-1 a=n,-1≤n≤1 a=1,n1 对称饱和线性函数 satlin a=0,n0 a=n,0≤n≤1 a=1,n1 饱和线性函数 purelin a=n 线性函数 hardlims a=-1,n0 a=+1,n≥0 对称硬极限函数 hardlim a=0,n0 a=1,n≥0 硬极限函数 MATLAB函数 图标 输入/输出关系 名称 3.多输入神经元 权值矩阵 通常，一个神经元有不止一个输入。具有R个输入的神经元如图2-5所示。其输入p1,p2,…,pR 分别对应权值矩阵W的元素w1,1,w1,2,…,w1,R 。 图2-5 多输入神经元 该神经元有一个偏置值b,它与所有输入的加权和累加，从而形成净输入n： n=w1,1p1+w1,2p2+…+w1,RpR+b （2.3） 这个表达式也可以写成矩阵形式： n=Wp+b (2.4) 其中单个神经元的权值矩阵W只有一行元素。 神经元的输出可以写成：a=f(Wp+b) (2.5)