信息论试卷及答案.docxVIP

信息论试卷及答案

考试时间：______分钟总分：______分姓名：______

一、选择题（每题2分，共20分）

1.信息熵H(X)用于衡量信源输出的（）。

A.信息量

B.等概性

C.不确定性

D.相关性

2.对于一个等概信源，其信息熵达到（）。

A.最小值

B.最大值

C.零

D.无法确定

3.信源编码的主要目的是（）。

A.提高信道传输速率

B.增强信号抗干扰能力

C.减少信息传输的冗余度

D.降低信道误码率

4.信道容量C是指（）。

A.信道传输信息的最大速率

B.信道允许的最高传输速率

C.信道传输信息的平均速率

D.信道噪声强度

5.二进制对称信道的错误概率为P_e，其信道容量C等于（）。

A.H(P_e)

B.1-H(P_e)

C.H(1-P_e)

D.-P_e*log2(P_e)-(1-P_e)*log2(1-P_e)

6.线性分组码的校验矩阵H的行数等于（）。

A.码长n

B.信息位数k

C.监督位数r

D.码字总数

7.卷积码的编码效率是指（）。

A.信息位数与码字总位数之比

B.监督位数与信息位数之比

C.约束长度k与信息位数之比

D.信道容量与信息速率之比

8.距离度量的作用是（）。

A.衡量信源输出的信息量

B.衡量不同码字之间的差异程度

C.衡量信道噪声对信号的影响

D.衡量编码效率

9.熵功率是指（）。

A.信源熵的一半

B.信道容量的一半

C.信道熵的一半

D.信道容量与信源熵之差

10.根据香农第三定理，若信道信息传输速率低于信道容量，则（）。

A.存在无失真传输

B.存在有损压缩

C.传输必然有误码

D.无法进行可靠传输

二、填空题（每题2分，共20分）

1.信息熵的单位是__________。

2.信道容量的单位是__________。

3.线性分组码的生成矩阵G的列数等于__________。

4.卷积码的约束长度k是指编码过程中每个信息位所影响的码位数。

5.常用的信源编码方法有__________、__________。

6.线性分组码的译码通常采用__________译码或__________译码。

7.距离度量的常见类型有__________、__________。

8.熵编码的基本原理是利用信源符号的__________。

9.数据压缩分为__________压缩和__________压缩。

10.香农第二定理（噪声信道编码定理）指出，对于任何有噪声信道，只要信息传输速率低于信道容量，就存在一种编码方案，使得在接收端____________________。

三、简答题（每题5分，共30分）

1.简述信息熵的定义及其物理意义。

2.解释信源编码的基本原理。

3.说明信道容量的定义及其意义。

4.简述线性分组码的编码和解码过程。

5.解释卷积码与线性分组码的主要区别。

6.简述香农第三定理的内容及其意义。

四、计算题（每题10分，共50分）

1.已知信源符号集合为{A,B,C,D}，其概率分布为P(A)=1/2,P(B)=1/4,P(C)=1/8,P(D)=1/8，求该信源的信息熵H(X)。

2.已知一个二进制对称信道，错误概率P_e=0.02，求该信道的信道容量C。

3.已知一个线性分组码，码长n=7，信息位数k=3，生成矩阵G为：

G=[1010110]

[0111001]

[1101101]

求该码的校验矩阵H，并判断该码是否是系统码。

4.已知一个卷积码，约束长度k=3，生成多项式g1(x)=x^2+x+1，g2(x)=x^2+1，求该码的生成矩阵G（以八单位多项式表示）。

5.已知一个等概信源，信息熵H(X)=3bits/symbol，信道容量C=2bits/symbol，根据香农第三定理，说明该信源在该信道上是否可以无失真地传输。

试卷答案

一、选择题

1.C

解析：信息熵是衡量信源输出不确定性的量，其值越大，信源输出越不确定。

2.B

解析：根据