人工神经网络的分析与设计.ppt

9.3 脉冲耦合神经网络模型 每个PN是一个定点处理器，有自己的片上存储器、寄存器和存储器地址单元。 CNAPS有乘法器、加/减法器（32位）和移位/逻辑单元等（1个8×8或8×16（16×16）乘法需占用1个或2个时钟周期），当然常用的除法、平方根和指数运算必须由用户自行处理才能实现。左图和右图分别为CNAPS的构架图。 9.3 脉冲耦合神经网络模型 下图为CNAPS的构架图。 由上页图可见，可将几个PN互联起来并连接到CSC上，主要通过三条全局总线：命令或互联总线、输入总线和输出总线。 每个PN还通过两条2位的inter-PN总线与相邻PN连接。这些PN自身有4KB的片上存储器，能执行1位、8位、16位的整型运算。 时钟频率是20MHz，一个时钟周期能执行一次乘法运算。 CSC ASIC 芯片控制PN阵列的运作，在输入总线上广播数据，并从输出总线上读结果。 9.3 脉冲耦合神经网络模型 9.3 脉冲耦合神经网络模型 现有CANPUS卡 9.3 脉冲耦合神经网络模型 上页图所示为一个插在32位PCI插槽中的完整CNAPS/PCI-DLX板，带有一个DRAM(SIMM socket)的背负式PCB。工作频率为20MHz，可执行高达25.6亿次/秒的乘累加MAC操作。 该板一个重要特点是可以加入一个称作mezzanine的专用子板，这块板用作高速I/O，从而使PCI总线闲置。Mezzanine板也可以支持一个后继处理器，例如，FFT引擎，神经网络芯片等。 CNAPS-C语言有并行处理的特点，CNAPS的处理单元（processing elements PE）被尽可能简化使得它们能快速执行对大多神经网络都很重要的乘法和加法，但还不能进行除法运算，需由用户完成。 9.3 脉冲耦合神经网络模型 (2) PCNN的CNAPS实现 在CNAPS上实现PCNN非常直观。一幅128×128的图像作为输入，意味着每个PN负责128个神经元的计算。 在CNAPS上，实数是由scaled类型来表示，需要事先分别定义实数整数和小数部分的位数总和，总位数不能超过16位。由于没有尾数/指数表示，故scaled类型的范围有限。由于PCNN有0～1范围内的延时，且CNAPS中的算术运算无除法运算，故需用这种scaled类型。 9.3 脉冲耦合神经网络模型 首先关心的是每个值的动态范围，最大的数值是，则可能大于32，所以整数部分至少需要6个bit位。最小的数值是，这至少需要4个bit位，当然用6个bit位或更多位更好。 由PCNN C-编译器的标准库实现的PCNN仅比在90MHz Pentium PC上快25%；而用intlib库的中的自适应方法则可达到10倍于Pentium PC的速度。计算的主要难点在于计算 。 用CNAPS对128×128图像进行20次PCNN迭代，大约需要一秒钟的时间。 9.3 脉冲耦合神经网络模型 9.3.4 神经网络在旅行商问题中的应用 旅行商问题（TSP）就是在已知n个城市之间相互距离情况下，一个推销员走遍n个城市，并且每个城市只能经过一次，最后返回到出发城市。旅行商问题已经被证明是一个NP困难问题，没有一个多项式时间算法来求解它的最优解。 神经网络解TSP问题最早可追溯自1985年Hopfield和Tank共同提出的Hopfield-Tank神经网络，此法开启类神经网络于最优化应用的先例。 9.3 脉冲耦合神经网络模型 虽然Hopfield-Tank神经网络在时间效益有较佳的表现，但仍受限于最陡坡降(Steepest Descent)程序，使得网络常收敛于邻近起始局部极小值，造成网络不稳定性；另外，参数缺乏系统化设定亦是其缺点之一。 用Hopfield神经网络解决TSP，先要把问题映射到Hopfield网络上。对于一个有N个城市的旅行商问题，对应在神经网络上是N个神经元节点，任何一个城市在最终路径上的访问次序可以用一个N维向量来表示。 9.3 脉冲耦合神经网络模型 在Hopfield神经网络求解过程中，把系统的稳定点看作一个能量函数的最小点，而能量函数就成了优化问题的目标函数，故从初始状态朝稳定点演变的过程就是一个求解这个优化问题的过程。表示最终路径的访问次序的N维向量表在满足一定的要求后就称为换位矩阵。根据换位矩阵的要求，我们可以自己构造与旅行商问题相对应的、能够更好的解决旅行商问题的能量函数。 9.3 脉冲耦合神经网络模型 此能量函数既要能体现换位矩阵的要求，又要具有一个目标项，通过目标项来约束能量函数趋向于最小化，它的最小值就是旅