信息论与编码试卷及答案.docxVIP

信息论与编码试卷及答案

考试时间：______分钟总分：______分姓名：______

一、选择题（每题3分，共15分）

1.信息熵H(X)的单位是？

A.比特(bit)

B.奈特(nit)

C.赫兹(Hz)

D.焦耳(J)

2.对于一个二进制信源，其概率分布为P(0)=0.9,P(1)=0.1，该信源的信息熵是？

A.0.1bit

B.0.9bit

C.0.8bit

D.1.0bit

3.哈夫曼编码是一种？

A.等长编码

B.变长编码

C.线性分组码

D.纠错码

4.能够纠正单个错误，并能检测多个错误的码是？

A.海明码

B.CRC码

C.卷积码

D.简单重复码

5.在FEC（前向纠错）中，主要目的是？

A.提高数据传输速率

B.增加信号功率

C.自动检测并纠正传输错误

D.降低设备成本

二、填空题（每空2分，共10分）

1.衡量信息可靠性的指标是________。

2.线性分组码的生成矩阵G和校验矩阵H满足关系________。

3.LFSR（线性反馈移位寄存器）生成伪随机码的周期最大为________。

4.在香农信道编码定理中，信道容量C表示在错误概率_______的条件下，信道能达到的最大信息传输速率。

三、计算题（共30分）

1.（10分）一个信源发出符号A、B、C、D，其概率分别为P(A)=1/2,P(B)=1/4,P(C)=1/8,P(D)=1/8。求该信源的信息熵H(X)。若用哈夫曼编码对此信源进行编码，求平均码长和编码效率。

2.（10分）已知一个(7,4)汉明码的生成矩阵为：

G=[1000|1011]

[0100|0110]

[0010|0011]

[0001|1110]

(竖线左右部分为生成矩阵的常规表示)。试求其校验矩阵H。当接收到的码字为1101001时，判断是否出错，若出错，指出错误位置并纠正。

四、简答题（共35分）

1.（15分）简述香农信道编码定理的基本思想和内容。

2.（20分）简述线性分组码的基本概念、构成要素（生成多项式、校验多项式等），并说明其编码和解码过程。

试卷答案

一、选择题

1.A

2.D

3.B

4.A

5.C

二、填空题

1.信道容量

2.G*H?=0(mod2)

3.2^n-1

4.趋于零

三、计算题

1.（10分）

*信息熵计算：

H(X)=-[P(A)*log2(P(A))+P(B)*log2(P(B))+P(C)*log2(P(C))+P(D)*log2(P(D))]

=-[(1/2)*log2(1/2)+(1/4)*log2(1/4)+(1/8)*log2(1/8)+(1/8)*log2(1/8)]

=-[(1/2)*(-1)+(1/4)*(-2)+(1/8)*(-3)+(1/8)*(-3)]

=1/2+1/2+3/8+3/8

=1+3/4=1.75bits/symbol

*哈夫曼编码（构造最优二叉树）：

根据概率，构建最优编码树：

1.合并P(C)和P(D)：概率为1/8+1/8=1/4，编码为10

2.合并P(B)和(1/8+1/8)：概率为1/4+1/4=1/2，编码为01

3.合并P(A)和(1/4+1/4)：概率为1/2+1/2=1，编码为00

编码结果：

A:00,B:01,C:10,D:110

*平均码长计算：

L_avg=Σ(P(i)*l(i))

=P(A)*l(A)+P(B)*l(B)+P(C)*l(C)+P(D)*l(D)

=(1/2)*2+(1/4)*2+(1/8)*3+(1/8)*3

=1+0.5+0.375+0.375

=2.25bits/symbol

*