基于相对误差平方和的BP算法.pdfVIP

维普资讯 第2o卷 第6期 计 算 机 仿 真 加03年6月 文章编号：1006—9348(2003)06—0032—04 基于相对误差平方和的BP算法 刘向阳 ，王如云2，李未 (1．河海大学理学院，江苏 南京210098；2．河海大学交通与海洋工程学院江苏南京2l0098) 擅要：考虑到在很多情况下，人们更关心预报模型的预报值与实际值的相对误差情况，从而该文采用实际输出与希望输出的 相对误差的平方和作为 目标函数，给出了一种基于相对误差平方和为最小的BP算法。考虑到网络的实际输出值介于0到 l 之间，该文对实际问题的理想输出值给出了一种规范化处理方法。通过大量算例检验证实，在基于相对误差平方和为检验 标准前提下，利用该文所给算法求得的拟合值或预报结果要优于传统的基于绝对误差平方和作为 目标函数的BP算法所得 结果。 关t词：人工神经网络；相对误差；反向传播算法 中圈分类号：嗍 1．6；TPI8 文l-I标识码：A … 1 引言 ， )，输出向量为 =(c；¨，ci¨，…，c )。输入层至中 自从 1986年 D．E．Rumelhart，G．E．I-Iinton和 R．J．Williams 间层的连接权为{埘}，=1，2，…，r,／；J=1，2，…，P。中间层 提出误差逆传播算法(BP算法)L1J之后，误差逆传播神经网 至输出层的连接权为{ }，J=1，2，…，P；t=1，2，…，q。中间 络(BP神经网络)就成了 目前应用最广泛的人工神经网络。 层的各节点的阈值为{}，J=1，2，…，P。输出层各节点的阈 传统的BP神经网络，采用实际输出与希望输出的绝对误差 值为 {yl}，t=1，2，…，q，k=1，2，…，m。 的平方和作为 目标函数。在网络的学习过程 中，追求此 目标 取激活函数为 Sigmoid函数 函数达到最小。然而 ，在检验神经网络学习效果的许多时 ，()=1／(1+e ) (1) 候，人们又不是采用实际输出与希望输出的绝对误差和的大 这个函数的一阶导数可以用它本身简单地表示出来 小为评价标准，而是采用实际输出与希望输出的相对误差和 的大小来进行评价，这样就造成了学习过程和评价检验的不 ，()=，()(1一，()) (2) 一 致性2。其实我们可以直接引进实际输 出与希望输出的 一 般地我们有 相对误差平方和作为学习过程中的 目标函数，这样就避免了 学习和检验标准的二重性。 s = ∑。l 一oj J==1，2，…，P (3) ‘； I 6j=，(s5) = 1，2，…，P (4) 2 基于相对误差的BP算法网络能量函数的导出