第06讲 SA法.pptVIP

第六讲 SA法(2/3) 该递推辨识算法结构体现了递推辨识的思想和算法结构,是一切递推辨识算法所具有的共同的结构. 本讲讨论的随机逼近(Stochastic Approximation, SA)法同样具有式(1)所示的结构. 但其基本原理却完全不同于LS类方法,而来源于随机方程数值解理论中的SA原理. 第六讲 SA法(3/3) SA法的基本思想是沿着准则函数的负梯度方向,用最优化方法逐步修正模型参数估计值而得到模型参数的递推估计值. 其算法思想类似于数值优化方法中的最速下降法,其收敛速度亦类似于最速下降法,属1阶收敛(线性收敛). 而前面介绍的递推LS法其算法思想和收敛速度则类似于数值优化中的牛顿法,收敛速度属2阶收敛(平方收敛). 本讲讲授内容为: 随机逼近原理 SA参数估计法 SA算法仿真程序与算例 1 SA原理(1/5) 1 随机逼近原理 考虑如下回归模型的辨识问题 y(k)=??(k-1)?+w(k), (2) 式中y(k)为过程输出; ?(k-1)为观测数据向量; ?为回归参数向量; w(k)为均值为零的噪声. 1 SA原理(2/5) 显然,这种模型的参数估计问题可以通过极小化扰动w(k)的方差来实现,即求参数θ的估计值使下列准则函数达到极小值 1 SA原理(3/5) 1 SA原理(4/5) 1 SA原理(5/5) 1 SA原理--Robbins-Monro算法(1/3) 1 SA原理--Robbins-Monro算法(2/3) 1 SA原理--Robbins-Monro算法(3/3) 1 SA原理--Kiefer-Wolfowitz算法(1/3) 1 SA原理--Kiefer-Wolfowitz算法(2/3) 1 SA原理--Kiefer-Wolfowitz算法(3/3) 2 SA参数估计法(1/5) 2 SA参数估计法(2/5) 2 SA参数估计法(3/5) 2 SA参数估计法(4/5) 2 SA参数估计法(5/5) 2 SA参数估计法(6/5) 2 SA参数估计法(7/5) 3 SA算法仿真程序与算例(1/5) 3 SA算法仿真程序与算例(2/5) 下面给出针对随机线性离散系统(XARMA) 3 SA算法仿真程序与算例(3/5) 3 SA算法仿真程序与算例(4/5) 3 SA算法仿真程序与算例(5/5) 3 SA算法仿真程序与算例—例1(1/6) 3 SA算法仿真程序与算例—例1(2/6) 3 SA算法仿真程序与算例—例1(3/6) 3 SA算法仿真程序与算例—例1(4/6) 3 SA算法仿真程序与算例—例1(5/6) 3 SA算法仿真程序与算例—例1(6/6) 3 SA算法仿真程序与算例—例2(1/4) 3 SA算法仿真程序与算例—例2(2/4) 3 SA算法仿真程序与算例—例2(3/4) 3 SA算法仿真程序与算例—例2(4/4) 噪信比=23%,?=0.99时递推辨识结果(2) 参数估计误差的平方和 例2 考虑如图2所示的CARMA仿真对象, 图中w(k)是服从均值为零,方差为1的正态分布的不相关随机噪声; 输入信号u(k)采用伪随机二进制序列; 通过控制?w值来改变数据的噪信比. 类似于ELS(扩展最小二乘法)可以处理CARMA模型的辨识，这里也可将SA法改进为扩展SA法。 辨识中,选择如下模型结构 y(k)+a1y(k-1)+a2y(k-2)=b1u(k-1)+b2u(k-2)+w(k) +c1w(k-1)+c2w(k-2) 数据长度L=30000;初始条件,r(-1)=10-6I, ?^(0)=0.001. 利用SA法可在线估计参数,结果如表1所示. 表2 计算机仿真结果 0.5256 0.6342 0.5 b2 -0.8897 -0.9442 -1.0 c1 0.1632 0.9879 0.6337 -1.4392 噪信比:200% 辨识结果 0.0666 1.0102 0.6696 -1.4805 噪信比:73% 0.2 1.0 0.7 -1.5 真值 c2 b1 a2 a1 参数 递推辨识过程的辨识值如下图所示 噪信比=200%,?=0.99时递推辨识结果 参数估计误差的平方和 噪声估计误差 使用时，直接删除本页！ 精品课件，你值得拥有！ 精品课件，你值得拥有！ 使用时，直接删除本页！ 精品课件，你值得拥有！ 精品课件，你值得拥有！ 该准则函数的一阶梯度为 ?J/??=-E{?(k-1)[y(k)-??(k-1)?]} (4) 根据最优化原理,欲求准则函数(3)的极小值,则令其梯度为零,即 E{?(k-1)[y(