平均信息量及其应用.pdfVIP

平均信息量及其应用 丁勇 南京医科大学数学教研室，南京（210029 ） E-mail ：yding@ 摘 要：对Shannon 信息量，本文提出了平均信息量的概念并推导了计算公式，讨论 了平均信息量作为评价信源提供信息量多少的依据的有关应用。 关键词：信息量，平均值，调和级数 分类号：AMS （2000 ）92D20 中图分类号：O236 1948 年，Shannon提出了熵的概念，并以此作为信息的度量，宣告了信息论作为 一门科学学科的诞生[1] 。近年来，随着计算机应用的发展和生物信息学的兴起，信息 论理论和应用的研究更显示出其重要意义。Shannon信息量有许多很好的性质，如对 称性、扩展性、可加性、极值性、函数的唯一性、凸性等等[2-3] ，本文提出了平均信息 量的概念并推导了计算公式，讨论了其应用价值：可将其作为评价信源提供信息量多 少的依据。 1. 引理 n 引理1：设Ω {(t ,t , LL,t ) | t ≥0, ∑t ≤1} ，则 1 2 n i i i 1 1 （1） dt dt Ldt L 1 2 n ∫∫ ∫ n! Ω （2 ）对i 1,2, L, n ；有 (−t ln t ) dt dt Ldt L i i 1 2 n ∫∫ ∫ Ω n n 1 n+1 1 [ (1 ) ln(1 )] − − t − t dt dt Ldt L ∑i ∑i 1 2 n ∑ ∫∫ ∫ Ω i 1 i 1 (n +1)! i 2 i 证：（1）由[4]可得证 n n （2 ） [−(1− t ) ln(1− t )] dt dt Ldt L ∑i ∑i 1 2 n ∫∫ ∫ Ω i 1 i 1 n −1 1− t ∑i