信息理论与编码试卷及答案.docxVIP

信息理论与编码试卷及答案

考试时间：______分钟总分：______分姓名：______

一、单项选择题（每小题2分，共20分。在每小题列出的四个选项中，只有一个是符合题目要求的，请将正确选项字母填在题后的括号内。)

1.信息量H(X)的单位是（）。

A.比特/符号

B.比特

C.奈特

D.无单位

2.对于一个离散无记忆信源，其输出符号数为n，概率分布为{p1,p2,...,pn}，该信源的信息熵H(X)的最大值是（）。

A.0

B.log2(n)

C.1

D.nlog2(n)

3.设信源符号集X={x1,x2,x3}，概率分布为P(X)={1/4,1/2,1/4}，信宿符号集Y={y1,y2}，条件概率P(Y|X)如右表所示。则信源与信宿之间的互信息I(X;Y)为（）比特。

P(Y|X)y1y2

x11/21/2

x21/43/4

x31/43/4

A.0.5

B.0.75

C.1

D.1.25

4.无噪声信道编码定理指出，在有噪信道中，对于任意满足rC的传输速率r，都存在一种编码方案，使得接收端译码错误概率P(error)（）。

A.趋于无穷大

B.趋于零

C.保持为r/C

D.无法确定

5.信道容量C是（）。

A.有噪信道中能够实现的最大传输速率

B.有噪信道中能够实现的最小传输速率

C.无噪信道中能够实现的最大传输速率

D.无噪信道中能够实现的最小传输速率

6.设一个二进制对称信道（BSC）的错误概率为p=0.1。该信道的容量C为（）比特/符号。

A.0.1

B.0.8

C.0.9

D.1.0

7.熵功率是指（）。

A.信源熵的一半

B.信道容量的一半

C.对于加性高斯白噪声信道，噪声功率谱密度与带宽的乘积

D.信源与信道联合熵的一半

8.Lempel-Ziv编码属于（）。

A.熵编码

B.纠错编码

C.信道编码

D.差分脉冲编码调制

9.一个(n,k,k)线性分组码，其最小距离d_min为（）。

A.k

B.n-k

C.n/k

D.floor(n/k)

10.奈奎斯特准则指出，对于一个带宽为BHz的理想低通白噪声信道，其最高码元传输速率R_max为（）波特。

A.B

B.2B

C.Blog2(S)

D.2Blog2(S)（S为码元数）

二、填空题（每小题2分，共20分。请将答案填在题中的横线上。)

1.对于一个离散随机变量X，其概率分布为P(X={x1})=1/2，P(X={x2})=1/4，P(X={x3})=1/4，则X的自信息量I(x1)=_______比特，X的信息熵H(X)=_______比特。

2.设信源发出符号x1、x2、x3的概率分别为1/2、1/4、1/4，采用等长码（2位码字）对信源进行编码，码字分别为c1=00,c2=01,c3=10。则码的平均长度L_avg=_______位/符号，编码效率R=_______。

3.对于一个二进制信源，其0和1出现的概率分别为p和1-p(0p1)，该信源的信息熵H(X)=_______。当p=1/2时，熵达到最大值，为_______比特。

4.根据香农信道编码定理，在有噪信道中，只要传输速率R小于信道容量C，就存在一种编码方案，使得译码错误概率P(error)可以小于任意给定的_______，并且错误概率随着码长的增加而_______。

5.线性码的生成矩阵G和校验矩阵H之间满足关系_________。

6.循环码是一种重要的线性分组码，它具有_______的良好自校验特性。

7.在（7,4,3）Hamming码中，信息位有_______位，监督位有_______位，最小距离为_______。

8.离散无记忆信源X和信道Y之间有联合熵H(X,Y)，则根据数据压缩定理，互信息I(X;Y)=_______。

9.设信道转移概率矩阵为P=[p(i,j)]，其中p(0,0)=0.9,p(0,1)=0.1,p(1,0)=0.2,p(1,1)=0.8，则信道输出符号1的