信息论与编码期末复习试题A含答案.docxVIP

信息论与编码期末复习试题A含答案

一、单项选择题（每题2分，共20分）

1.自信息量的单位为比特时，对数的底是（）。

A.eB.10C.2D.任意正数

2.离散无记忆信源的熵\(H(X)\)表示（）。

A.信源输出一个符号的平均信息量

B.信源输出所有符号的信息量之和

C.信源输出符号的最大可能信息量

D.信源输出符号的先验不确定性

3.对于两个离散随机变量\(X\)和\(Y\)，互信息\(I(X;Y)\)的性质不包括（）。

A.非负性B.对称性C.可加性D.\(I(X;Y)=H(X)-H(X|Y)\)

4.若离散无记忆信道的转移矩阵为\(\begin{bmatrix}0.80.2\\0.20.8\end{bmatrix}\)，则该信道是（）。

A.对称信道B.无噪信道C.确定信道D.强对称信道

5.最大离散熵定理指出，当信源符号（）时，熵达到最大值。

A.等概率分布B.概率呈指数分布C.概率呈高斯分布D.概率集中于某一符号

6.香农第一定理（无失真信源编码定理）的核心结论是（）。

A.信源熵是无失真编码的最小平均码长下界

B.信道容量是可靠传输的最大信息速率

C.最优编码的平均码长等于信源熵

D.编码效率与码长无关

7.霍夫曼编码的最优性体现在（）。

A.平均码长最短B.编码唯一可译C.码长严格递增D.适用于连续信源

8.线性分组码的最小汉明距离\(d_{\text{min}}\)决定了其纠错能力\(t\)，满足\(t=\lfloor\frac{d_{\text{min}}-1}{2}\rfloor\)，若\(d_{\text{min}}=5\)，则可纠正（）位错误。

A.1B.2C.3D.4

9.循环码的生成多项式\(g(x)\)必须是（）的因式。

A.\(x^n+1\)B.\(x^k+1\)C.\(x^r+1\)D.\(x^{n+k}+1\)（\(n\)为码长，\(k\)为信息位长，\(r=n-k\)）

10.对于高斯加性白噪声信道（AWGN），信道容量\(C=B\log_2(1+\frac{S}{N})\)，其中\(B\)是（）。

A.信号功率B.噪声功率C.带宽D.信噪比

二、填空题（每空2分，共20分）

1.若信源符号\(X\)的概率分布为\(P(X)=\{0.5,0.3,0.2\}\)，则自信息量\(I(x_1)=\)______比特。

2.两个离散随机变量\(X\)和\(Y\)的联合熵\(H(X,Y)\)与条件熵\(H(X|Y)\)、\(H(Y)\)的关系为\(H(X,Y)=\)______。

3.离散无记忆信道的信道容量\(C\)定义为\(C=\max_{P(X)}I(X;Y)\)，其实质是信道能够传输的______。

4.已知某二元信源的熵\(H(X)=0.9\)比特/符号，若用等长码编码，要求编码效率\(\eta\geq0.9\)，则码长\(n\)至少为______（\(\log_23\approx1.585\)）。

5.对概率分布为\(\{0.4,0.3,0.2,0.1\}\)的信源进行霍夫曼编码，其平均码长\(\bar{L}=\)______比特/符号。

6.某线性分组码的生成矩阵\(G=\begin{bmatrix}1011\\0110\end{bmatrix}\)，则其校验矩阵\(H=\)______（要求系统码形式）。

7.循环码中，若生成多项式\(g(x)=x^3+x+1\)，则码长\(n\)最大为______（\(g(x)\)是本原多项式）。

8.对于BSC信道（二元对称信道），错误概率\(p=0.1\)，则其信道容量\(C=\)______比特/符号（\(H_b(p)=-p\log_2p-(1-p)\log_2(1-p)\)，\(H_b(0.1)\approx0.469\)）。

9.互信息