广义基函数神经网络的构造和算法.pdfVIP

广义基函数神经网络的构造与算法 王学智 3003) (陕西工学院陕西汉中72 C 摘要本文从一般函数逼近问题引出广义基函数逼近、内插和分类问题．构造出广义基函 数神经网络和它的操作模型．建立基函数神经网络训练方程，给出训练算法，并进行计算 机模拟， 鸯一 一引言 理论已经证明三层前馈神经网络能以任意精度逼近任意非线性函数，所以多层前馈神 经网络已广泛用于控制与信息处理。然而多层神经网络学习时无论用那种算法都比单层网 络耗费更多学习时间。所以神经网络用于实时处理与实时控制遇到极大困难．基函数神经 网络通常由一层非线性变换层和一层前馈神经网络组成。如果采用合适算法可接近实时处 理．本文讨论广义基函数神经网络的构造与算法 二．广义基函数的逼近、内插与分类问题 1．广义基函数逼近问题 它的线性组合fl】 o(矽=∑Ⅵ抚(∥ (1) 户， 级数，样条函数，子波函数或高斯函数．w为待定系数． 逼近问题为选择合适基函数b，(x)和确定系数w去逼近函数y(x)，即使 y(列=∑Ⅵb，(列+w。 (2) 产f 2 3当n_+*时逼近误差趋 据或输人数据的次集．d。是参数．n为基函数的个数，理论证明1 于零。C2)式表明逼近过程是计算出输入的基函数后再加权求和．如果w。作为初始权，让 ● b。(x)=1，(2)式变为 一 “砂=∑Ⅵb·(夥 f3) J=O 式(3)可用单层感知器实现． 逼近操作关系为 y(夥=b(x)w 本课题由陕西省工业自动化重点实验室资助 一316～ 这里x为输入数据。当x为某个数据时，bx为该输人数据对应的基函数矢量．Y(x)为x对 应的被逼近函数．w是待定矢量． 当输人为一组数据时，对应基函数矢量矩阵B(，，而感知器输出为矢量y．故操作方程 为 帝 y(砂=B(xw (5) 掌 输人一组数据，计算出基函数矩阵Bx．已知被逼近函数y(x)，解方程(5)可计算权矢量 w．故方程(5)也称学习方程． (3)式变为 当基函数b(x)选为径向基函数时， 月 y(砂=∑Ⅵb(【x-cJ‘爿，Ix—o】) (6) ，=n 这里C为中心．Ai为正定矩阵，若选为常数，则上式变为 X--c，11) (7) y(叫=∑w,b(I J=O ||，ll为二阶范数． 式(6)的逼近过程是对输人数据进行基函数变换，然后再加权求和， 若输人数据x为x。x2x 3．“。，对应x的某一值有一组基函数值b，(8X．,--c，0)，对不同x 得矩阵 R=[r。】 ^=6，“lx—GII) 得逼