2信息论与码结课论文.docVIP

信息论与编码结课论文 题 目: 费诺编码的原理及探究 院 系： 数 学 系 专 业： 信息与计算科学 姓 名： 吴 桂 贤 学 号： 090504401017 指导教师： 冉 茂 虎 填写日期：2012 年 6 月 12日 摘 要 经过一个学期的信息论与编码学习后，使我对这门课程有了更多的了解，促进了我对信息论的认识与学习，让我有了更大的收获。 随着以计算机技术、通信技术和网络技术为代表的信息技术的快速发展，信息技术以成为当今社会应用范围最广的高新技术之一，而信息论是信息技术的主要理论基础之一。信息论是在信息可以度量的情况下，研究有效地,可靠地，安全地传递信息的科学，信息的可度量性是建立信息论的基础；编码是把消息变换成信号的措施，编码器又把适合信道的信号传输出去。编码理论是信息论的一个重要分支，而编码的目的则是优化通信系统。 本文着重从编码出发，研究费诺编码的基本原理，以及费诺编码的编写方法和步骤，使用例题的方法了解信源平均码长和编码效率。从而对本书有更进一步的认识。 关键字：信息论，编码，费诺编码。 目 录 摘要………………………………………………I 一、主要内容……………………………………1 1、信息论与编码的问题描述…………………………………1 2、 费诺编码的原理……………………………………………1 二、主要任务……………………………………………1 1、费诺编码的设计与编写………………………………………2 2、计算费诺编码的平均码长和编码效率………………………2 三、基本要求……………………………………………3 1、突出重点、文字通顺…………………………………………4 2、编码和计算正确无误…………………………………………4 四、小结…………………………………………………5 五、主要参考文献………………………………………5 一、主要内容 1、信源编码的问题描述 信源编码是对新源输出的原始符号按照一定的数学规则进行变换，使得传输每个信源符号所要求的平均比特数较小，也即是同样多的信息用较少的码来传送，从而使单位时间内传送的平均信息量较大，最终提高了通信的有效性。 2、费诺编码的原理 费诺编码属于统计匹配码，其原理如下： （1）将信源消息（符号）按其出现的概率有大到小依次排列； （2）将依次排列的信源符号按概率值分为两大组，使每个组的概率之和近于相同，并对各组分别赋予一个二进制码元“0”和“1”； （3）将没一大组的信源符号进一步在分成两组，使划分后的两个组的概率之和近于相同，并又分别赋予一个二进制码元“0”和“1” （4）如此重复，直至每个组只剩下一个信源符号为止； （5）信源符号所对应的码字即为费诺码。 二、主要任务 1、费诺编码的设计与编写 （1）设有一单符号离散无记忆信源： 进行费诺编码。 解：该信源的熵为 H(X)=-=1.95（bit/sign） 编码过程如下表： 信源符号 符号概率 编 码 码字 码长 X1 0.4 0 0 1 x2 0.3 1 0 10 2 x3 0.2 0 110 3 X4 0.05 1 0 1110 4 X5 0.05 1 1111 4 该费诺码的平均码长为： 0.41+0.32+0.23+0.054+0.054 =2.0（bit/sign） 编码效率为 97.5 (2)设有如下离散无记忆信源： 对此信源进行费诺编码，并求出编码效率 解：该信源的熵为 H(X)=-=2.55（bit/sign） 编码过程如下表： 信源符号 概率 编 码 码字 码长 X1 0.4 0 01 00 2 X2 0.18 01 2 X3 0.1 1 0 0 100 3 X4 0.1 1 101 3 X5 0.07 1 0 0 1100 4 X6 0.06 1 1101 4 X7 0.05 1 0 1110 4 X8 0.04 1 1111 4 该费诺码的平均码长为： = = 2（0.4+0.18）+3（0.1+0.1）+ 4（0.07+0.06+0.05+0.04） =2.64（bit/sign） 编码效率为 96.6% 四．小结 本文主要描述了在信息论与编码中所学习的费诺编码问题，在文中