多层前向网络地交叉覆盖设计算法.PDF

第10卷第7期 软　件　学　报 V o l. 10, N o. 7 1999年7月 JOU RNAL O F SO FTWA R E Jul. 1999 　 多层前向网络的交叉覆盖设计算法 张　铃1, 3　张　钹2, 3　殷海风1 1 (安徽大学人工智能研究所　合肥　230039) 2 (清华大学计算机科学与技术系　北京　100084) 　3 (清华大学智能技术与系统国家重点实验室　北京　100084) : @ . . . E m ail zling m ars ahu edu cn 摘要　文章根据多层前向权、阈值神经网络的设计原则, 将设计过程分成两步进行: 先用尽可能少的 领域将样本中的各类分隔开来, 然后再用作者提出的交叉覆盖算法进行网络设计. 文章给出两个很有 代表性的模拟例子, 一个是平面上两根螺线的分离问题, 另一个是“无穷样本学习”的例子. 模拟结果 证明了此方法的有效性. 关 键 词　多层神经网络, 设计原则, 交叉覆盖算法. 中图法分类号　T P 18 ( ) 在文献[1 ] 中, 我们利用 神经元模型的几何意义, 给出一种设计神经网络 作为分类器 的原则方法, 称 M P 为 FP 覆盖算法. 本文将按照文献[1 ] 中给出的构造 FP 覆盖算法的原则, 深入地进行讨论, 给出一种常用的覆盖 ( ) 算法, 暂且称之为“交叉覆盖算法”. 本算法在一定意义上解决了多年来一直未解决的 作为分类器 多层前向网 ( 络的设计问题. 最后给出两个模拟的例子, 并指出本算法可以用来解决“无穷样本的学习问题”而无穷样本学习 ) 问题用其他学习算法是无法解决的 , 这充分说明本算法的有效性. 为方便读者阅读, 下面简单介绍文献[ 1 ] 中所 ( ) 用到的一些内容 详细情况见文献[1 ] . 神经元模型的几何意义简介. M P n ( 若我们限定输入向量的长度相等, 即输入向量是限定在 + 1维空间的某个球面 上 其中心在原点, 半径 n S ) ( ) ( ) ( ( 为R , 那么这时 W x - 0 其中W 是权向量, 是阈值 , 就表示球面上落在由超平面 P 其方程为: W x - ) = 0) 所分割的