人工神经网络神经元模型和网络结构.pptxVIP

人工神经网络神经元模型和网络结构第1页/共80页 2第二章 神经元模型和网络结构1. 生物学的启示2. 神经元模型3. 神经网络结构4. 章节小结第2页/共80页 生物学的启示第3页/共80页 生物学的启示第4页/共80页 生物学的启示人脑具有巨大的并行计算能力大脑约有1011个神经元 – 每个神经元约有104个连接。 第5页/共80页 生物学的启示第6页/共80页 生物学的启示神经元相对于电子线路要慢许多 10-3 秒相对于10-9秒 第7页/共80页 生物学的启示树突（输入） 轴突（输出） 细胞体 突触神经元在结构上由细胞体、树突、轴突和突触4部分组成。第8页/共80页 生物学的启示树突（输入） 轴突（输出） 细胞体 突触（1）细胞体细胞体是神经元的主体，由细胞核、细胞质和细胞膜3部分组成。细胞体的外部是细胞膜，将膜内外细胞液分开。由于细胞膜对细胞液中的不同离子具有不同的通透性，这使得膜内外存在着离子浓度差，从而出现内负外正的静息电位。这种电位差称为膜电位。第9页/共80页 生物学的启示树突（输入） 轴突（输出） 细胞体 突触（2）树突从细胞体向外延伸出许多突起的神经纤维。负责接收来自其他神经元的输入信号，相当于细胞体的输入端（input）。第10页/共80页 生物学的启示树突（输入） 轴突（输出） 细胞体 突触（3）轴突由细胞体伸出的最长的一条突起称为轴突。轴突比树突长而细。轴突也叫神经纤维，末端处有很多细的分支称为神经末梢，每一条神经末梢可以向四面八方传出信号，相当于细胞体的输出端（output）。第11页/共80页 生物学的启示树突（输入） 轴突（输出） 细胞体 突触（4）突触一个神经元通过其轴突的神经末梢和和另一个神经元的细胞体或树突进行通信连接，这种连接相当于神经元之间的输入/输出接口（I/O），称为突触。第12页/共80页 生物学的启示突触使神经细胞的膜电位发生变化，且电位的变化是可以累加的，单个神经元可以与多达上千个其他神经元的轴突末梢形成突触连接，接受从各个轴突传来的脉冲输入。第13页/共80页 生物学的启示这些输入可到达神经元的不同部位，输入部位不同，对神经元影响的权重也不同。第14页/共80页 生物学的启示输入部位不同，该神经细胞膜电位是它所有突触产生的电位总和，当该神经细胞的膜电位升高到超过一个阈值时，就会产生一个脉冲，从而总和的膜电位直接影响该神经细胞兴奋发放的脉冲数。第15页/共80页 生物学的启示神经元的信息是宽度和幅度都相同的脉冲串，若某个神经细胞兴奋，其轴突输出的脉冲串的频率就高；若某个神经细胞抑制，其轴突输出的脉冲串的频率就低，甚至无脉冲输出。第16页/共80页 生物学的启示因此，突触可以分为兴奋性和抑制性两种，兴奋性的突触可能引起下一个神经细胞兴奋，抑制性的突触使下一个神经细胞抑制。脉冲的传递是正向的，不允许逆向传播。另外，突触传递信息需要一定的延迟。第17页/共80页 生物神经元－－信息处理单元第18页/共80页 生物神经元－－信息处理单元第19页/共80页 生物神经元－－信息处理单元第20页/共80页 生物神经元－－信息处理单元第21页/共80页 生物神经元－－信息处理单元第22页/共80页 生物神经元－－信息处理单元综上所述，我们可以概括出生物神经网络的假定特点：每个神经元都是一个多输入单输出的信息处理单元；神经元输入分兴奋性输入和抑制性输入两种类型；神经元具有空间整合特性和阈值特性；神经元输入与输出间有固定的时滞，主要取决于突触延搁。第23页/共80页 M-P模型1943年心理学家W.McCulloch(迈科络)和数学家W.Pitts(皮茨)合作提出了M-P模型，即以他们两个人的名字命名（McCulloch-Pitts）。 第24页/共80页 M-P模型Walter PittsWarren McCulloch第25页/共80页 M-P模型McCulloch和Pitts按照生物神经元的结构和工作原理构造出来的一个抽象和简化了的模型。简单点说，它是对一个生物神经元的建模。第26页/共80页 M-P模型为了使得建模更加简单，以便于进行形式化表达，我们忽略时间整合作用、不应期等复杂因素，并把神经元的突触时延和强度当成常数。如下就是一个M-P模型的示意图。第27页/共80页 M-P模型结合M-P模型示意图来看，对于某一个神经元 j（注意别混淆成变量了，在这里 j 只是起到标识某个神经元的作用），它可能接受同时接受了许多个输入信号，用xi 表示，前面说过，由于生物神经元具有不同的突触性质和突触强度，所以对神经元的影响不同，我们用权值wij来表示，其正负模拟了生物神经元中突出的兴奋和抑制，其大小则代表了突出的不同连接强度。由于累加性，我们对全部输入信号进行累加整合，相当于生物神经元中的膜电位