信息论的国内外研究现状.docVIP

信息论的国内外研究现状 有关香农的信息论的国内外的研究现状 【摘要】随着计算机技术、通信技术和网络技术等信息技术的快速发展信息技术已经成为当今社会应用范围最广的高新技术之一。信息论是信息技术的主要理论技术基础之一它的一些基本理论在通信、计算机、网络等工程领域中得到了广泛的应用。目前信息论所研究的范畴已经超过了通信及其相近学科，在其他学科应用也很广泛。本学期我们开设了“电子信息工程导论”这一课程，我在其中对信息论的基础理论有了初步的了解借此文对信息论的国内外研究现状进行简单的论述。 【关键词】香农 研究 信息论 【正文】香农信息论的局限性很早就被认识到，包括香农本人。香农的信息论诞生不久，许多人将它推广到日常信息交流场合，于是出现纰漏。香农也曾经辑文反对信息论的滥用。和Shannon合著《通信的数学理论》一书的W. Weaver就提出通信的三个水平，而香农理论仅仅是其中一个水平。为了解决语义信息问题，R. Carnap等人提出用逻辑概率代替普通概率，然后用Shannon 熵度量语义信息。50年代末，Kullback提出Kullback信息公式。60年代初，Brillouin提出可用Hartley公式的改进形式