西安交通大学信息论与编码试卷及答案.docxVIP

西安交通大学信息论与编码试卷及答案

考试时间：______分钟总分：______分姓名：______

一、选择题（每小题2分，共10分。请将正确选项的字母填在题后的括号内）

1.设随机变量X取值{0,1,2}，概率分布为P(X=0)=1/4，P(X=1)=1/2，P(X=2)=1/4。则X的熵H(X)等于（）。

A.1bit

B.1.5bit

C.2bit

D.2.5bit

2.对于一个无失真信源编码，如果信源符号等概率出现，则最有效的编码方法是（）。

A.肖恩编码（ShannonCode）

B.赫夫曼编码（HuffmanCode）

C.香农-费诺编码（Shannon-FanoCode）

D.任何一种等长编码

3.设有一进制信源，其概率分布为P0=P1=1/2。若采用香农编码，则编码效率为（）。

A.50%

B.75%

C.88.9%

D.100%

4.在二进制对称信道（BSC）中，错误概率为p。该信道的容量C等于（）。

A.p

B.1-p

C.1bit/symbol

D.plog2(p)+(1-p)log2(1-p)

5.下列关于线性分组码的描述中，正确的是（）。

A.任何线性分组码都能纠正所有单个错误

B.线性分组码的生成矩阵可以完全描述码的编码过程

C.线性分组码的最小距离等于其监督关系式个数

D.线性分组码的解码算法必须使用Syndrome表

二、填空题（每小题2分，共10分。请将答案填在题后的横线上）

1.若一个信源的熵为2bits/符号，该信源发出的符号序列长度为1000，则该序列的平均信息量等于_______。

2.根据互信息的非负性，对于任意两个随机变量X和Y，有I(X;Y)_______0。

3.香农第二定理（编码定理）指出，只要信源信息率低于信道容量，就存在一种编码方法，使得码字在信道中传输的错误概率可以_______。

4.二进制卷积码的约束长度为K，则其编码后的码序列中，任何两个码字之间至少有K个连续位不同。

5.对于一个(n,k,d)线性分组码，其纠错能力为_______，检错能力为_______。

三、简答题（每小题5分，共15分）

1.简述互信息I(X;Y)与熵H(X),H(Y),H(X|Y)之间的关系。

2.简要说明Huffman编码的基本思想及其优点。

3.什么是信道容量？它有什么重要意义？

四、计算题（每小题8分，共24分）

1.设信源符号集合为{A,B,C,D}，其概率分布为P(A)=1/2,P(B)=1/4,P(C)=1/8,P(D)=1/8。请计算该信源的熵H(X)，并构造一个香农编码，求编码效率。

2.已知一个二进制对称信道（BSC）的错误概率p=0.1。求该信道的容量C，并计算当信源信息率R=C时，传输1个比特的平均错误概率。

3.设有一个(7,4,3)线性分组码，其生成矩阵为G=[1001;0111;1010;1100]。请计算其校验矩阵H，并判断是否能纠正单个错误。

五、证明题（10分）

证明：对于任何随机变量X，其熵H(X)满足0≤H(X)≤log2(|X|)。

六、综合应用题（11分）

设有一个离散无记忆信源，其符号集合为{0,1}，概率分布为P(0)=0.9,P(1)=0.1。信道为加性高斯白噪声信道（AWGN），信道带宽为BHz，信号功率为Ps，噪声单边功率谱密度为N0/2。请：

1.计算该信源的熵H(X)。

2.根据香农公式，计算该信道的信道容量C。

3.假设采用一个编码率R=C的信道编码方案，简述如何利用信道编码来提高传输的可靠性。

试卷答案

一、选择题

1.B

2.A

3.D

4.D

5.B

二、填空题

1.2000bits

2.≤

3.接近于零

4.K

5.?(d-1)/2?,?d/2?

三、简答题

1.解析思路：互信息I(X;Y)衡量了X和Y之间的相互依赖程度。根据定义I(X;Y)=H(X)-H(X|Y)。由数据链锁不等式H(X,Y)≤H(X)+H(Y)，且H(X,Y)=H(X)+H(Y|X)，可得H(Y|X)≥0。结合条件独立性，有I(X;Y)=H(X)-H(X|Y)≤H(X)+H(Y)-H(X)=H(Y)。综上，0≤I(X;Y)≤H(X)且0