信息论课堂小测题目与答案.pdfVIP

信息论课堂小测题目与答案

一、单选题（每题2分，共20分）

1.信息熵H(X)的数学定义是（）（2分）

A.H(X)=-∑p(x)logp(x)B.H(X)=∑p(x)logp(x)

C.H(X)=-∑p(x)logp(x)D.H(X)=∑p(x)logp(x)

【答案】A

【解析】信息熵H(X)的数学定义是H(X)=-∑p(x)logp(x)，其中p(x)是随机变量

X取值x的概率。

2.下列关于信息论的描述，错误的是（）（2分）

A.信息熵是衡量信息不确定性的指标

B.赫尔曼编码是一种无损压缩算法

C.信息熵的单位是比特（bit）

D.信道容量是信道能传输的最大信息速率

【答案】C

【解析】信息熵的单位是无量纲的，通常用比特（bit）作为计量单位，但不是单

位本身。

3.无损压缩算法的特点是（）（2分）

A.压缩比高，但会丢失信息

B.压缩比低，但能完全恢复原始信息

C.压缩比高，但无法完全恢复原始信息

D.压缩比低，且会丢失信息

【答案】B

【解析】无损压缩算法能够在压缩数据后完全恢复原始信息，但压缩比通常较低。

4.下列哪种编码属于前缀编码？（）（2分）

A.算术编码B.赫尔曼编码C.游程编码D.Lempel-Ziv编码

【答案】B