信息论与编码试卷及答案.docVIP

信息论与编码试卷及答案

一、单项选择题

1.信息论的创始人是（）

A.香农B.维纳C.哈特莱D.费希尔

答案：A

2.离散无记忆信源输出N个不同的符号，每个符号出现的概率为P1，P2，…，PN，则该信源的熵为（）

A.-∑PilogPiB.∑PilogPiC.-∑Pilog2PiD.∑Pilog2Pi

答案：C

3.若信源输出符号有3个，概率分别为1/2、1/4、1/4，则该信源的熵为（）

A.1.5bit/symbolB.1bit/symbolC.2bit/symbolD.0.5bit/symbol

答案：A

4.下列关于互信息的说法正确的是（）

A.互信息一定大于0

B.互信息与信源和信道有关

C.互信息等于信源熵

D.互信息等于信道容量

答案：B

5.对于一个离散无记忆信道，其信道容量C是（）

A.输入概率分布的函数

B.与输入概率分布无关

C.始终为0

D.始终为1

答案：A

6.哈夫曼编码是（）

A.等长码B.定长码C.变长码D.非即时码

答案：C

7.下列哪种编码是唯一可译码（）

A.{0,10,11}B.{0,00,11}C.{00,01,0}D.{1,11,111}

答案：A

8.香农第一定理又称为（）

A.信道编码定理

B.无失真信源编码定理

C.有噪信道编码定理

D.信源信道匹配定理

答案：B

9.信源编码的目的是（）

A.提高通信的可靠性

B.提高通信的有效性

C.提高通信的保密性

D.提高通信的实时性

答案：B

10.若某一离散无记忆信源的熵为H(S)，对其进行无失真编码，平均码长L满足（）

A.LH(S)B.L=H(S)C.L≥H(S)D.LH(S)

答案：C

二、多项选择题

1.以下属于信息度量的方法有（）

A.基于概率的信息度量

B.基于模糊集合的信息度量

C.基于分形的信息度量

D.基于统计的信息度量

答案：ABC

2.信源的分类方式有（）

A.离散信源和连续信源

B.平稳信源和非平稳信源

C.记忆信源和无记忆信源

D.确定信源和随机信源

答案：ABCD

3.下列关于熵的性质正确的有（）

A.非负性

B.对称性

C.扩展性

D.可加性

答案：ABCD

4.互信息I(X;Y)与以下哪些因素有关（）

A.信源X的概率分布

B.信道的转移概率

C.信宿Y的概率分布

D.编码方式

答案：ABC

5.信道的分类包括（）

A.离散信道和连续信道

B.无记忆信道和有记忆信道

C.对称信道和非对称信道

D.恒参信道和随参信道

答案：ABCD

6.以下属于信源编码的有（）

A.哈夫曼编码

B.算术编码

C.游程编码

D.卷积编码

答案：ABC

7.唯一可译码的判断方法有（）

A.即时码判断法

B.前缀条件判断法

C.码长不等式判断法

D.译码延时判断法

答案：ABCD

8.下列关于信道容量的说法正确的有（）

A.信道容量是信道传输信息的最大能力

B.对于离散无记忆信道，信道容量与输入概率分布有关

C.信道容量与信源无关

D.可以通过信道编码达到信道容量

答案：ABD

9.信息论在以下哪些领域有应用（）

A.通信工程

B.密码学

C.数据压缩

D.生物信息学

答案：ABCD

10.以下关于编码效率的说法正确的是（）

A.编码效率越高，编码越有效

B.编码效率等于平均码长与信源熵的比值

C.哈夫曼编码的编码效率可以达到1

D.编码效率与编码方式有关

答案：ACD

三、判断题

1.信息就是消息。（）

答案：错误。信息是消息中包含的有意义的内容，消息是信息的载体，二者不同。

2.离散信源的熵越大，其不确定性越大。（）

答案：正确。熵是表示信源不确定性的度量，熵越大，不确定性越大。

3.互信息I(X;Y)=I(Y;X)。（）

答案：正确。互信息具有对称性，I(X;Y)和I(Y;X)数值相等。

4.信道容量是信道能够传输的最大信息量。（）

答案：正确。信道容量表征了信道传输信息的最大能力。

5.哈夫曼编码一定是即时码。（）

答案：正确。哈夫曼编码满足即时码的条件，即任何一个码字都不是其他码字的前缀。

6.唯一可译码一定是即时码。（）

答案：错误。唯一可译码不一定是即时码，即时码是唯一可译码的一种特殊情况。

7.香农第二定理表明在信