矢量基学习算法及在辨识建模中的应用研究.pdfVIP

第9 卷 第6 期 电路与系统学报 Vol.9 No.6 2004 年 12 月 JOURNAL OF CIRCUITS AND SYSTEMS December 2004 文章编号 1007-0249 (200 4) 06-0122-05 矢量基学习算法及在辨识建模中的应用研究* 解应春 王海清 李平 浙江大学 工业控制技术国家重点实验室 工业控制技术研究所 浙江 杭州 310027 摘要 递推最小二乘 RLS 存在模型阶次及参数要预先设定 逼近能力有限 收敛较慢等诸多缺陷 本文提出 了矢量基学习 Vector Base Learning VBL 算法 基于核 Kernel 变换的思想 利用正则化技术建立了优化目标 函数 避免出现过拟合 并提出了基矢量 基矢量集和解空间的概念 通过分析样本矢量和解空间的夹角 推导了 基矢量的判断准则 继而获得了VBL 辨识参数的增长和校正模式的递推公式 最后对算法仿真分析表明 VBL 算法比 RLS 具有更好的收敛性和辨识效果 关键词 递推最小二乘 核函数 正则化 辨识 中图分类号 TP274 文献标识码 A 1 引言 递推最小二乘 RLS 算法由于算法简单 运算量少的优点 在实际的模型辨识中得到广泛应用 但 RLS 需要选择模型的阶次 而且逼近能力有限 收敛较慢 初期的参数要预先设定等 为了克服 RLS 存在的不足 本文提出了一种新的递推算法 矢量基学习 Vector Base Learning VBL 算法 在核 Kernel 变换的基础上 考虑到算法的推广能力 引入正则化的思想 建立了 VBL 的优化目 标函数 同时提出了基矢量 Base Vector BV 基矢量集 Base Vector Set BVS 和解空间的概 念 并且在高维映射空间通过分析样本矢量与解空间的夹角 推导了 BV 的判断准则 从而可以从第 2 个样本开始 随着样本的陆续到来直接进行参数辨识 并且自动建立 BVS 确定参数的阶次 继而 分别获得了VBL 算法辨识参数的自动增长和校正算法的递推公式 最后 对所提出的VBL 算法进行 了仿真分析 表明该算法避免了RLS 算法的缺陷 并且具有更好的收敛性和辨识效果 2 Kernel 变换思想 对于某些 低维的 非线性问题 直接在低维空间求解往往得不到满意的结果 若先向高维非线 性空间做投影 以使样本分散性更好 然后再进行求解反而可以求得更准确的解 然而在高维空间的 运算量可能会非常大 而Kernel 变换正好提供了解决这一困难的方案 设将N 维空间X 中的变量x i 将x 投影到 M MN 维的空间 F 即映射F: X F 则x F(x ) 在高维 F 空间就可以进行 i i i 各种运算 Kernel 变换定义为高维空间F 中的一类点积运算 k (x ,x ) (Ö(x ) Ö(x )) 1 i j i j [1] 其中算子k ( , ) 就是Kernel 函数 其具体形式不是任意的 必须满足 Merser 定理 例如 多