信息论在确定误差分布律中的应用.pdfVIP

1999 年 2 月 宇航计测技术 第 19 卷 　第 1 期 信息论在确定误差分布律中的应用 陈丽英 　　文 　摘 　推导出各种分布情况下熵与方差的关系, 并给出适用于各种分布情况下的熵与 方差的关系式, 介绍一个判断误差分布律的新方法。 + + 　　主题词 　信息论 　 熵 　标准误差 　测量误差 　 误差分布 1 　引 　言 　　在误差理论中 , 由于分布律的不同, 测量结果的置信度也不同, 因此要完整表达测量结 ( ) 果, 必须给出测量误差的分布律。在现有的文献中, 通常采用下述两种方法来确定分布律 : 1 通过大量观测作出其直方图, 确定概率密度函数的数学表达式或给出分布函数 F ( x) 的曲线, 即可估计出分布律; (2) 根据理论分析或经验, 假设被研究对象服从某种分布律, 然后通过有 限次观测来推断原有假设能否被接受, 这种方法又称适度检验。 以上两种方法都是建立在对统计现象进行推理、判断基础上的, 故一切结果都具有很明显 的概率含义, 同时也带有一定的主观性, 再加上处理起来也很麻烦, 因此人们在不断地寻求确 定分布律的简捷方法。 这里借助信息论中有关通信熵的原理, 从熵与方差的关系出发, 给出一个确定测量结果分 布律的简单方法。 1 　熵与标准差的关系 　　具有某一概率分布的随机变量 x , 其熵与方差之间存在一定的对应关系。 正态分布 ∞ ∞ 1 2 2 H = - p ( x) log p ( x) d x = - p ( x) log e - x / 2 σ ·d x ∫ ∫ - ∞ - ∞ 2πσ ( πσ) ( ) = log 2 e 1 收稿 : 1 9 9 8 1 2 0 4 长春金融专科学校信息系 , 副教授 , 女 , 1 3 0 0 2 2 — 6 — © 1994-2007 China Academic Journal Electronic Publishing House. All rights reserved. 　　对于各种非正态分布 , 只要知道该种分布的概率密度函数, 代入熵的定义式, 即可求出其 熵与标准差的对应关系。 　　　　均匀分布 ( σ) ( ) H = log 2 3 2 　　　　三角分布 ( σ) ( ) H = log 6 e 3 　　　　指数分布