信息论练习题试卷及答案.docxVIP

信息论练习题试卷及答案

考试时间：______分钟总分：______分姓名：______

选择题：

1.某离散信源符号集为{X?,X?,X?}，概率分布为P(X?)=0.5，P(X?)=0.3，P(X?)=0.2，则信源熵H(X)为（）。

A.1.486bit/symbol

B.1.5bit/symbol

C.2bit/symbol

D.1.8bit/symbol

2.关于互信息I(X;Y)，下列说法正确的是（）。

A.I(X;Y)=H(X)-H(X|Y)，且H(X|Y)≥0

B.I(X;Y)=H(Y)-H(Y|X)，且H(Y|X)≤H(Y)

C.I(X;Y)=H(X)+H(Y)-H(X,Y)

D.以上均正确

3.香农第一定理（无失真信源编码定理）指出，对于熵为H(X)的信源，平均码长L满足（）。

A.L≤H(X)

B.L≥H(X)

C.L=H(X)

D.LH(X)

4.离散无记忆信道（DMC）的信道容量C定义为（）。

A.max{P(x)}H(X|Y)

B.max{P(x)}I(X;Y)

C.min{P(x)}H(X|Y)

D.min{P(x)}I(X