信息论与编码试题及答案.pdfVIP

信息论与编码试题及答案

一、选择题（共20分，每题2分）

1.信息论的基本度量单位是（）

A.比特

B.字节

C.奈特

D.哈特

答案：A.比特

2.信源熵的单位是（）

A.比特/符号

B.符号/比特

C.比特/秒

D.秒/比特

答案：A.比特/符号

3.对于一个离散无记忆信源，当信源符号等概率分布时，信源熵

达到（）

A.最小值

B.最大值

C.中间值

D.不确定

答案：B.最大值

4.信道容量的定义是（）

A.信道能够传输的最大信息量

B.信道能够传输的最小信息量

C.信道传输信息的速率

D.信道传输信息的可靠性

答案：A.信道能够传输的最大信息量

5.香农第二定理（信道编码定理）表明（）

A.只要码长足够长，就可以找到一种编码方式，使得误码率任

意小

B.任何编码方式都无法实现无差错传输

C.编码效率不可能达到1

D.信道容量是有限的

答案：A.只要码长足够长，就可以找到一种编码方式，使得误

码率任意小

6.下列哪种编码不是变长编码（）

A.霍夫曼编码

B.算术编码

C.游程编码

D.奇偶校验码

答案：D.奇偶校验码

7.对于二元对称信道（BSC），当错误概率为p时，信道容量为

（）

A.1+p·logp+(1-p)·log(1-p)

B.1-p·logp-(1-p)·log(1-p)

C.p·logp+(1-p)·log(1-p)

D.1-p

答案：B.1-p·logp-(1-p)·log(1-p)

8.下列哪种编码不是纠错码（）

A.汉明码

B.循环码

C.霍夫曼码

D.BCH码

答案：C.霍夫曼码

9.信道编码中的汉明距离是指（）

A.两个码字之间的最小距离

B.两个码字之间的不同位数

C.编码前后的信息长度差

D.码字中1的个数

答案：B.两个码字之间的不同位数

10.信息率失真函数R(D)表示的是（）

A.在给定失真度D条件下的最小信息率

B.在给定信息率条件下的最小失真度

C.失真度与信息率的关系

D.信息率与编码效率的关系

答案：A.在给定失真度D条件下的最小信息率

二、填空题（共20分，每空2分）

1.信息论是由______创立的。

答案：香农（ClaudeShannon）

2.信源熵H(X)的计算公式为______。

答案：H(X)=-∑p(x)logp(x)

3.对于一个离散无记忆信源，当信源符号概率分布为p,

p,...,q时，信源熵的最大值为______。

答案：logn

4.互信息I(X;Y)的计算公式为______。

答案：I(X;Y)=H(X)-H(X|Y)=H(Y)-H(Y|X)

5.信道容量C的计算公式为______。

答案：C=max_{p(x)}I(X;Y)

6.香农第一定理（无失真信源编码定理）表明，对于熵为H的信

源，若要求编码后的码长为L，则必须满足______。

答案：L≥H

7.霍夫曼编码是一种______编码方法。

答案：最优前缀码

8.循环码是一种重要的______码。

答案：线性分组

9.在纠错码中，能够纠正t个错误的码