基于最大熵方法对测量数据估计的改进方法研究.docVIP

基于最大熵方法对测量数据估计的改进方法研究 　　摘要: 针对未知概率分布时难以精确估算测量结果的问题,利用最大熵值法以最少的主观成分拟合测量数据概率分布。在仿真实现过程中,发现最大熵方法存在溢出的问题,通过变量变化法成功解决了此问题。最后,通过MATLAB仿真实现,证明了改进的算法更好的扩展了其适用范围,其估算结果具有可靠性。 　　Abstract:In the analysis of measurement data with unknown probability distribution, it is difficult to accurately evaluate the measurement result, through using the maximum entropy method to fit the least subjective probability distribution of measurement data. In the simulation process,the author found that the maximum entropy method exists overflow problem,and the problem was successfully resolved by variable change method. Finally, through MATLAB simulation, improved algorithm is proved to better expand its scope of application, and the estimation result is reliable. 　　关键词: 最大熵;仿真;MATLAB 　　Key words: maximum entropy;simulation;MATLAB 　　中图分类号:TH71 文献标识码:A文章编号:1006-4311(2010)28-0228-02 　　 　　0引言 　　在计量工作中,测量数据样本值较少时,不一定满足中心极限定理,需要对未知分布的测量数据进行分布估计。而最大熵原理认为:在掌握部分信息的情况下对未知的分布形态做出推断,应该选择符合约束条件同时信息熵值取最大的那个概率分布,任何其他的选择都意味着我们添加了其他的约束或条件,这些约束或假设根据我们所掌握的信息是无法做出的。采用最大熵方法所确定的概率分布是含有最少主观假定的分布[1]。 　　1最大熵值法概率分布计算方法[2-3] 　　基于最大熵方法的随机变量x的概率密度p(x)的信息熵可定义为 　　H(x)=-p(x)In p(x)dx(1) 　　式(1)中,R为积分空间,令 　　H(x)=-p(x)In p(x)dx=max(2) 　　约束条件为 　　p(x)dx=1(3) 　　xp(x)dx=m i=1,2,…,m(4) 　　式(4)中,m为所用矩的阶数,mi为第i阶原点距。 　　通过调整p(x)来使得熵达到最大值,并采用拉格朗日乘子法来求解此问题。设H为拉格朗日函数,拉格朗日乘子为λ0,λ1,…,λ,则有 　　=H(x)+(λ+1)p(x)dx-1+λxp(x)dx-m(5) 　　令dH/dp(x)=0,有: 　　-In p(x)+1dx+(λ+1)dx+λxdx=0(6) 　　可解得: 　　p(x)=exp(λ+λx)(7) 　　式(7)就是最大熵概率密度函数的解析形式。 　　将式(7)代入式(3)有: 　　e=exp(λx)dx (8) 　　λ=-Inexp(λx)dx (9) 　　将式(8)对λ微分,有: 　　=-xexp(λ+λx)dx=-m (10) 　　将式(9)对λ微分可得:=-(11) 　　由式(10)和式(11)可得:Mi=(12) 　　通过式(12)可以建立求解λ1,…,λ的m个方程组,求出λ1,…,λ后,可以根据(9)求出λ0,为了便于数值求解,将式(12)改写成: 　　1-=ri (13) 　　式(13)中,ri为残差,可以用数值计算的方式使其接近于零,用非线性规划求(13)表示的这些残差平方和的最小值,当rε时认为式(13)收敛,从而解出λ1,…,λ以及λ0,确定出待估计的分布参数。 　　r=r→min(14) 　　2最大熵值法溢出问题改进 　　利用最大熵原理进行概率分布拟合时,当实际中的样本数据值较大时,因为需要求解xi的问题,很可能存在溢出的问题,导致估计概率密度函数失效。为了扩大最大熵适用范围,利用变量变换法转换随机变量x的定义域到[0,1]之间来避免。 　　设随机变量x变化为z时,相应的区间从[a,b]变换到