《信息论与编码》课后习题试卷及答案.docxVIP

《信息论与编码》课后习题试卷及答案

考试时间：______分钟总分：______分姓名：______

一、填空题

1.设一个信源有四个符号，其出现概率分别为1/2,1/4,1/8,1/8，该信源的信息熵为_______。

2.在信息论中，互信息量衡量的是_______与_______之间的相互依赖程度。

3.对于一个(n,k,d)线性分组码，其最小距离d决定了码的纠正t个错误的能力，满足关系t≤_______。

4.哈弗曼编码是一种根据信源符号出现概率构建最优前缀码的方法，其目标是使编码后的平均码长_______。

5.循环码是一种重要的线性分组码，它的基本特点是具有_______性。

6.卷积码是将k个当前输入符号与过去的n-k个输入符号进行组合，生成一个n位输出符号的码，其中n通常称为_______。

7.码率R是指信息率（比特/符号）与_______（比特/符号）的比值。

8.在有噪信道中，如果信道的输入符号集合大小为M，输出符号集合大小为N，则信道容量C的计算公式为C=maxI(X;Y)，其中I(X;Y)表示_______与_______之间的互信息量。

二、计算题

1.设有四个消息A,B,C,D，其概率分别为