2025年电大《信息论与编码》专项训练试题及答案.pdfVIP

2025年电大《信息论与编码》专项训练试题

及答案

考试时间：______分钟总分：______分姓名：______

一、选择题（每小题2分，共10分）

1.信息熵H(X)是随机变量X的哪个方面的度量？

A.发生概率

B.取值范围

C.平均不确定性

D.信息量

2.对于一个离散无记忆信源，其N次扩展信源的消息数是原始信源消息数的

多少倍？

A.N

B.2^N

C.N!

D.2N

3.已知信源符号集{a,b,c,d}，其概率分布为P(a)=1/2,P(b)=1/4,

P(c)=1/8,P(d)=1/8。对该信源进行Huffman编码，符号a的码长最短可能是多

少位？

A.1

B.2

C.3

D.4

4.在线性分组码(n,k,d)中，n,k,d分别代表什么？

A.码长，信息位数，最小距离

B.信息速率，码长，监督位数

C.监督位数，信息位数，码长

D.码重，码距，错误纠错能力

5.卷积码编码器的输出比特不仅依赖于当前输入比特，还依赖于多少个过去

的输入比特？

A.1个

B.编码约束度K

C.码长n

D.信道复杂度

二、填空题（每小题2分，共10分）

6.若随机变量X和Y相互独立，则互信息I(X;Y)=_______。

7.对于二进制对称信道（BSC），其错误概率P_e=_______。

8.线性分组码的生成矩阵G和校验矩阵H满足关系_______。

9.在维特比译码算法中，用于衡量路径之间差异的量是_______。

10.信息传输速率R和信道容量C的关系是R≤C（香农定理），当R=

C时，表示信道处于_______状态。

三、计算题（每小题8分，共32分）

11.已知一个信源的消息及其概率分布如下：

消息：x1,x2,x3,x4

概率：P(x1)=1/2,P(x2)=1/4,P(x3)=1/8,P(x4)=1/8

计算该信源的信息熵H(X)。

12.信道传输矩阵为P=[[1/2,1/4],[1/4,1/2]]。发送符号为0，接

收到的符号为1。计算此错误事件发生的条件概率。

13.考虑一个(7,4,3)线性分组码，其生成矩阵为：

G=[[1,0,0,0],[0,1,0,0],[0,0,1,0],[0,0,0,1],[1,

1,1,0],[0,1,1,1],[1,0,1,1]]

信息位为(1011)，求编码后的码字。

14.一个卷积码编码器，约束度K=3，生成多项式为g1(x)=x^2+x+1,

g2(x)=x^2+1（按位序列卷积）。输入序列为1011001...，求输出序列的前14位

（假设起始几位为0）。

四、证明题（每小题10分，共20分）

15.证明对于任何离散无记忆信源，其N次扩展信源的信息熵等于原始信源的

信息熵乘以N。

16.设(n,k,d)线性分组码的最小距离为d。证明：该码最多能纠正t=

(d-1)/2个错误。

五、综合应用题（每小题14分，共28分）

17.一个二进制信源，发送0和1的概率分别为3/4和1/4。该信源输出

通过一个错误概率为1/8的BSC。

(1)求信源的信息熵H(X)。

(2)求接收端接收到的消息（可能为0或1）的概率分布。

(3)求从接收到的消息反推原始发送消息的平均错误概率（即后验错误概

率