北京邮电大学2025—2025学年第一学期《信息论》期末考试试题及答案.docxVIP

北京邮电大学2025—2025学年第一学期《信息论》期末考试试题及答案

姓名：__________考号：__________

题号

一

二

三

四

五

总分

评分

一、单选题(共10题)

1.在信息论中，熵的概念是由谁提出的？()

A.柯尔莫哥洛夫

B.香农

C.欧拉

D.约翰·冯·诺伊曼

2.以下哪个公式不是熵的计算公式？()

A.H(X)=-ΣP(x)log2P(x)

B.H(X)=ΣP(x)logP(x)

C.H(X)=ΣP(x)log1/P(x)

D.H(X)=-ΣP(x)log1/P(x)

3.如果一个随机变量X的熵为2，那么这个随机变量平均需要多少比特的信息来编码？()

A.1

B.2

C.3

D.4

4.香农第二定理说明了什么？()

A.信息率失真界限

B.信息增益

C.信道容量

D.信息熵

5.以下哪种编码方式可以用来提高编码效率？()

A.简单替换编码

B.哈夫曼编码

C.重复编码

D.线性编码

6.信源编码的目的是什么？()

A.增加信息量

B.减少冗余

C.增加噪声

D.降低信噪比

7.在信道编码中，冗余度是什么意思？()

A.信息中不包含的数据

B.信息中包含的数据

C.信道中传输的数据

D.信道中接收的数据

8.以下哪个不是信道的类型？()

A.有记忆信道

B.无记忆信道

C.消息信道

D.信号信道

9.在信息论中，信噪比（SNR）的定义是什么？()

A.信号功率与噪声功率的比值

B.噪声功率与信号功率的比值

C.信号功率与信噪比的比值

D.噪声功率与信噪比的比值

二、多选题(共5题)

10.信息熵的物理意义包括以下哪些？()

A.表示信息的不确定性

B.表示信息的丰富程度

C.表示信息的可压缩性

D.表示信息的传输速率

11.以下哪些是香农第二定理的内容？()

A.信道容量存在并且是有限的

B.信道容量与信源无关

C.信道容量与信噪比有关

D.信道容量与编码方式无关

12.哈夫曼编码的特点有哪些？()

A.平均编码长度最小

B.编码效率最高

C.编码唯一性

D.编码可逆性

13.以下哪些是信道编码的作用？()

A.提高传输可靠性

B.增加传输速率

C.减少传输误差

D.提高信噪比

14.以下哪些是信息论中常用的度量？()

A.信息熵

B.信道容量

C.联合熵

D.条件熵

三、填空题(共5题)

15.信息熵的数学表达式为：

16.信道容量的定义是：

17.在信息论中，条件熵H(Y|X)表示：

18.哈夫曼编码是一种：

19.香农第二定理也称为：

四、判断题(共5题)

20.信息熵的值越大，表示信息越不确定。()

A.正确B.错误

21.信道容量与信源无关。()

A.正确B.错误

22.哈夫曼编码是一种无损失编码。()

A.正确B.错误

23.条件熵总是小于等于联合熵。()

A.正确B.错误

24.信噪比（SNR）越高，信道容量越大。()

A.正确B.错误

五、简单题(共5题)

25.请简述信息熵的概念及其在信息论中的意义。

26.解释什么是信道容量，并说明它如何受信噪比的影响。

27.为什么哈夫曼编码被认为是一种有效的编码方法？

28.什么是条件熵？它与联合熵之间有什么关系？

29.在信息传输过程中，信源编码和信道编码各自的作用是什么？

北京邮电大学2025—2025学年第一学期《信息论》期末考试试题及答案

一、单选题(共10题)

1.【答案】B

【解析】香农是信息论之父，他在1948年提出了熵的概念。

2.【答案】B

【解析】熵的计算公式是H(X)=-ΣP(x)log2P(x)，其中B选项的公式没有负号。

3.【答案】B

【解析】熵为2意味着平均每个信息需要2比特来编码。

4.【答案】C

【解析】香农第二定理即信道容量定理，说明了在给定噪声水平下，信道的最大传输速率。

5.【答案】B

【解析】哈夫曼编码是一种前缀编码，它根据字符出现的频率进行编码，能够提高编码效率。

6.【答案】B

【解析】信源编码的目的是减少信息中的冗余，从而提高传输效率。

7.【答案】A

【解析】在信道编码中，冗余度是指信息中不包含的数据，它用于纠正传输过程中的错误。

8.