神经网络的模拟VLSI实现的研究.pdfVIP

神经网络的模拟VLSI实现研究+ 周伟雄靳东明 (清华大学微电子学研究所北京100084 zhwx@dns．ime．tsinghua．edu．cn) 摘要本文总结了当前神经网络单元的模拟VLSI实现的成果，详细从权值存储单元．实现乘加的宪 齄电路c包括作者设计的宪齄电路】和实现闻值的非线性函数电路三方面来教速．同时，作者提出了对神经网 络模拟VLSZ实现的看法咀及作者在选方面的工砖． 关键词神经网络、vLsI、模拟电路、突触电路、神经元、权值存储 1．引言 神经网络实现可分为全硬件实现和虚拟实现两种。当前神经网络全硬件实现主要是采用 微电子技术(VLSD、光学技术、分子，生物技术来将神经网络映射为物理实体。其中，vLsI 与其他的两种方法相比，具有实现技术成熟、精度高、抗噪声能力强、便于程序控制的优点。 所以VLSI技术被认为是实现神经网络的最有效的方式。神经网络的VLsI实现方式可以分为 三类：模拟vLsI实现、数字VLSI实现和数模混合实现。数字实现／芰：,Jt抗噪声能力强，扩展 性好，设计方法成熟、规范，设计的周期短等优点。但是数字电路占用芯片面积大．难以实 现大规模神经网络。而模拟实现的电路简单、功耗低、速度高．可以提高在神经网络芯片上 神经元的集成度。现在垒硬件实现神经网络需要解决的主要问题是实现大规模的乘、加运算 和大规模的权值存储．而用模拟电路相对容易解决。但是大规模模拟电路难以整体设计。将 来的神经网络的实现方式必然是结合数字和模拟电路优点的数模混合电路，用模拟电路实现 神经网络的单元，神经网络的整体控制由数字电路实现。本文论述当前用模拟电路实现神经 元的成果．其中包括作者设计的突触电路。 2．神经元结构和各部分电路 神经网络中的基本单元是神经元，神经元要实现的功能可以下式来表示： Ⅳ y=，(∑w斟。+6)． M 其中xI是输人数值：Wj是权值tf是阈值函效(或称为激活函数)。神经元按功能又可以分为 权值的大规模的存储单元。图1所示结构就是神经元的基本结构。本段将分别从权值存储单 元、实现乘加的突触电路和实现阈值的非线性函数电路三个方面来论述。 2．1权值存储单元 权值存储问题是实现神经网络的关键问题之一。它的性质决定着整个神经网络的功能。 在模拟VLSI实现神经网络的研究中．如何存储权值一直是瓶颈，到现在还没有找到一种有 效的解决方法。现在的主要存储方式有三种：动态方式、数字方式和不挥发式。 (1)动态式存储 模拟的权值可以存储在电容上的电荷来表示，由公式v=Q／C，我们可用电压的形式输出。 在模拟电路中最简单的方法是利用MOS管的栅电容，如图2所示，以此为基础构成一个全 MOS神经元如图3所示。当s为低电平时T1导通将权值w，存于T．管的栅电容上．当S为 高电平时T。截止，此时w。存在T1管上，T】管和T4管之间的节点电压正比于W，×V。．通过 L和T，管送到S点．在s点完成求和，最后由细胞体完成阈值功能。动态存储的最大的缺 点是存在漏电现象，使得存在栅电容上的权值不准确。为了解决漏电现象的影响．Mumay等 人提出了电荷平衡存储权值技术，其电路如图4所示。其核心思想是用两个电容上电压的差 ‘基金项目：高等学校博士学科点专项科研基金资助项且0妯．9枷338) ·487· 值来表示权值，由于两个电容的漏电的机制是相同的．这样可以部分消除漏电的影响。 r……一 u+札、．il鼍叫 ?协仔 。。上Ul| 辫点 图2动态存储单元 图3全MOS神经元电路图 图4电荷平衡存储权值技术 分析漏电机制发现：漏电主要通过开关管的漏端和村底之间的反向的PN节，如图2所 示。如果将加在开关管漏端和村底之间反向的电压减小，那么开关管漏端和村底之间的反向 漏电流就会减小。图5就是根据这种原理设计的低漏电模拟存储单元，从图中可以看出：开 关管漏端和衬底之间电压为运放A：的输入失调电压，非常小。对此电路进行Hspiee仿真