第06讲 SA法试卷.ppt

系统辨识篇目录(1/1) 系统辨识篇 第01讲 系统辨识概论 第02讲 理论知识准备 第03讲 最小二乘法 第04讲 递推最小二乘法 第05讲 处理有色噪声扰动的最小二乘类方法 第06讲 随机逼近法 第07讲 多输入多输出系统辨识 第08讲 辨识算法比较 第09讲 系统辨识研究的发展与问题 第六讲 SA法(1/3) 第六讲 随机逼近法 前面讨论的辨识算法均属于LS类的估计算法, 其优点是 收敛速度快, 精度高等, 但其计算量大且占用计算机系统的内存较多等严重影响了其在实时辨识和在自适应系统中的运用. 上述的这些方法的递推算法具有如下共同的结构 新的参数估计值=老的参数估计值+增益矩阵×新息 (1) 第六讲 SA法(2/3) 该递推辨识算法结构体现了递推辨识的思想和算法结构,是一切递推辨识算法所具有的共同的结构. 本讲讨论的随机逼近(Stochastc Approximation, SA)法同样具有式(1)所示的结构. 但其基本原理却完全不同于LS类方法,而来源于随机方程数值解理论中的SA原理. 第六讲 SA法(3/3) SA法的基本思想是沿着准则函数的负梯度方向,用最优化方法逐步修正模型参数估计值而得到模型参数的递推估计值. 其算法思想类似于数值优化方法中的最速下降法,其收敛速度亦类似于最速下降法,属1阶收敛(线性收敛). 而前面介绍的递推LS法其算法思想和收敛速度则类似于数值优化中的牛顿法,收敛速度属2阶收敛(平方收敛). 本讲讲授内容为: 随机逼近原理 SA参数估计法 SA算法仿真程序与算例 1 SA原理(1/5) 1 随机逼近原理 考虑如下回归模型的辨识问题 y(k)=??(k-1)?+w(k), (2) 式中y(k)为过程输出; ?(k-1)为观测数据向量; ?为回归参数向量; w(k)为均值为零的噪声. 1 SA原理(2/5) 显然,这种模型的参数估计问题可以通过极小化扰动w(k)的方差来实现,即求参数θ的估计值使下列准则函数达到极小值 1 SA原理(3/5) 1 SA原理(4/5) 1 SA原理(5/5) 1 SA原理--Robbins-Monro算法(1/3) 1 SA原理--Robbins-Monro算法(2/3) 1 SA原理--Robbins-Monro算法(3/3) 1 SA原理--Kiefer-Wolfowitz算法(1/3) 1 SA原理--Kiefer-Wolfowitz算法(2/3) 1 SA原理--Kiefer-Wolfowitz算法(3/3) 2 SA参数估计法(1/5) 2 SA参数估计法(2/5) 2 SA参数估计法(3/5) 2 SA参数估计法(4/5) 2 SA参数估计法(5/5) 2 SA参数估计法(6/5) 2 SA参数估计法(7/5) 3 SA算法仿真程序与算例(1/5) 3 SA算法仿真程序与算例(2/5) 下面给出针对随机线性离散系统(XARMA) 3 SA算法仿真程序与算例(3/5) 3 SA算法仿真程序与算例(4/5) 3 SA算法仿真程序与算例(5/5) 3 SA算法仿真程序与算例—例1(1/6) 3 SA算法仿真程序与算例—例1(2/6) 3 SA算法仿真程序与算例—例1(3/6) 3 SA算法仿真程序与算例—例1(4/6) 3 SA算法仿真程序与算例—例1(5/6) 3 SA算法仿真程序与算例—例1(6/6) 3 SA算法仿真程序与算例—例2(1/4) 3 SA算法仿真程序与算例—例2(2/4) 3 SA算法仿真程序与算例—例2(3/4) 3 SA算法仿真程序与算例—例2(4/4) 噪信比=10%,?=0.99时递推辨识结果(2) 参数估计误差的平方和 噪信比=23%,?=0.99时递推辨识结果(1) 参数估计误差的平方和 噪信比=23%,?=0.99时递推辨识结果(2) 参数估计误差的平方和 例2 考虑如图2所示的CARMA仿真对象, 图中w(k)是服从均值为零,方差为1的正态分布的不相关随机噪声; 输入信号u(k)采用伪随机二进制序列; 通过控制?w值来改变数据的噪信比. 类似于ELS(扩展最小二乘法)可以处理CARMA模型的辨识，这里也可将SA法改进为扩展SA法。 辨识中,选择如下模型结构 y(k)+a1y(k-1)+a2y(k-2)=b1u(k-1)+b2u(k-2)+w(k) +c1w(k-1)+c2w(k-2) 数据长度L=30000;初始条件,r(-1)=10-6I, ?^(0)=0.001. 利用SA法可在线估计参数,结果如表1所示. 表2 计算机仿真结果 0.5256 0.6342 0.5 b2 -