基于半超立方模型的ADALINE权扰动敏感性计算.pdfVIP

基于半超立方模型的ADALINE 权扰动敏感性计算 钟水明 河海大学计算机及信息工程学院，江苏南京（210098 ） E-mail：zhongyi@ 摘 要：本文主要从半超立方模型的视角来探讨和论述有关ADALINE 在权扰动下的敏感性 计算问题。采用半超立方模型，可充分利用输入空间关于坐标原点对称这一特点，以此来达 到论述、分析的简单和便利，并最终起到简化ADALINE 敏感性计算的目的。 关键词：神经元，Adaline ，半超立方，敏感性，权扰动 1. 引言 到目前为止，针对权扰动下 ADALINE 神经元敏感性，许多学者从各自不同视角来开展 了这方面的研究并取得了大量成果。 就其研究视角来说，主要有如下几种具有代表性的研 [1] [2] [3] 究模型：超立方模型 、近似超球面模型 、近似半超球面模型 三大类。其中河海大学曾 晓勤教授与其学生汪莹峰从 ADALINE 输入空间的超立方模型的视角很好地解决了有关权 扰动下 ADALINE 敏感性的精确计算难题[1] ；而更早以前斯坦福大学的 Winter 博士从 ADALLINE 输入空间的近似半超球面的视角研究了有关权扰动下 ADALINE 敏感性计算问 题，得出了其敏感性的近似计算关系式[3] 。 超立方模型[1]是 ADALINE 输入空间的真实几何模型，但建立在这种几何模型基础上的 ADALINE 敏感性精确计算，不论在分析、论述还是实现上，都还有着相当的复杂性。这表 现在： 一、权扰动前后的两个超平面将 ADALINE 输入空间分割情况复杂，有 5 种之多； 二、在计算某一区域内输入顶点数时，只能通过特定的两个区域的顶点数来达到。当该 特定区域内顶点数远远超过待计算区域内顶点数时，这种计算开销就成倍增加，导 致计算复杂度大大增加。 三、当 ADALLINE 存在偏置时，其判断超平面将不再通过坐标原点，而超立方是以原 点为中心的几何模型，这势必丧失其对称性所带来的便利性。 因此，本文想将ADALINE 输入空间的超立方模型转变为近似的半超立方模型，然后从 新模型角度来重新分析、论述有关权扰动下 ADALIINE 敏感性精确计算问题。 2. ADALINE 结构 一般地，ADALINE 有 n 维二值（即值为 1 或-1 ）的输入以及相对应的n 维实值权值（再 外加一偏置值，记为w ，相应的输入记为x ，且x ≡ 1 ），一维二值输出，其传输函数为对 0 0 0 称硬极限函数。ADLINE 神经元结构如图 1 所示。其中INPUT:X=(1,x , Lx ,x )T 为输 1 R-1 R R 入向量；WEIGHT:W=(w ,w , L,w ) 为权值向量； ADALINES ACTION:n =∑ w x 0 1 R e i i i 0 为净输入；f(n ) 为传输函数； y 为该神经元的输出y=f(n ) 其定义为： e