信息论与编码期末试题及答案.docVIP

信息论与编码期末试题及答案

一、单项选择题

1.信息论的创始人是（）

A.香农

B.维纳

C.哈夫曼

D.仙农

答案：A

2.下列关于自信息的说法错误的是（）

A.自信息是一个随机变量

B.自信息反映了该事件发生时所提供的信息量

C.自信息一定大于等于0

D.事件发生的概率越大，其自信息越大

答案：D

3.平均互信息\(I(X;Y)\)与信源熵\(H(X)\)和条件熵\(H(X|Y)\)的关系是（）

A.\(I(X;Y)=H(X)-H(X|Y)\)

B.\(I(X;Y)=H(X)+H(X|Y)\)

C.\(I(X;Y)=H(X|Y)-H(X)\)

D.\(I(X;Y)=H(X|Y)+H(X)\)

答案：A

4.若一个离散无记忆信源有\(M\)个符号，且每个符号等概率出现，则该信源的熵为（）

A.\(\log_2M\)

B.\(M\log_2M\)

C.\(\frac{1}{M}\log_2M\)

D.\(M\)

答案：A

5.已知某信源的熵为\(H(X)\)，经过一个无噪无损信道传输后，输出端的熵为\(H(Y)\)，则\(H(X)\)与\(H(Y)\)的关系是（）

A.\(H(X)H(Y)\)

B.\(H(X)H(Y)\)

C.\(H(X)=H(Y)\)

D.无法确定

答案：C

6.香农编码属于（）

A.等长编码

B.变长编码

C.算术编码

D.游程编码

答案：B

7.下列哪种编码方法的编码效率最高（）

A.香农编码

B.费诺编码

C.哈夫曼编码

D.以上三种编码效率一样

答案：C

8.对于一个平稳遍历的马尔可夫信源，其极限熵\(H_{\infty}\)（）

A.大于初始熵\(H(X_1)\)

B.小于初始熵\(H(X_1)\)

C.等于初始熵\(H(X_1)\)

D.与初始熵\(H(X_1)\)无关

答案：B

9.信道容量\(C\)是指（）

A.信道能传输的最大信息速率

B.信道能传输的平均信息速率

C.信道能传输的最小信息速率

D.信道能传输的信息总量

答案：A

10.若一个二进制对称信道的错误转移概率为\(p\)，则该信道的容量为（）

A.\(1-H(p)\)

B.\(H(p)\)

C.\(1+H(p)\)

D.\(1-p\)

答案：A

二、多项选择题

1.以下属于信息的基本性质的有（）

A.普遍性

B.客观性

C.共享性

D.时效性

答案：ABCD

2.关于熵的性质，下列说法正确的有（）

A.非负性

B.对称性

C.扩展性

D.可加性

答案：ABCD

3.常见的变长编码方法有（）

A.香农编码

B.费诺编码

C.哈夫曼编码

D.算术编码

答案：ABCD

4.信道可以按照不同的方式进行分类，以下属于信道分类方式的有（）

A.按照输入输出信号的特点分类

B.按照噪声对信号的作用方式分类

C.按照信道的统计特性分类

D.按照信道的传输介质分类

答案：ABCD

5.下列关于平均互信息的性质，正确的有（）

A.非负性

B.互易性

C.\(I(X;Y)\leqH(X)\)

D.\(I(X;Y)\leqH(Y)\)

答案：ABCD

6.对于离散无记忆信源，以下说法正确的有（）

A.信源符号之间相互独立

B.信源的熵等于各个符号自信息的数学期望

C.信源的熵与符号的概率分布有关

D.等概率分布时信源熵最大

答案：ABCD

7.算术编码的特点有（）

A.可以达到最佳编码

B.不需要预先知道信源的概率分布

C.编码效率高

D.适用于二元信源

答案：ABC

8.马尔可夫信源的特点有（）

A.具有记忆性

B.某一时刻输出的符号只与当前状态有关

C.状态转移具有一定的概率

D.极限熵存在

答案：ABCD

9.以下关于信道容量的说法，正确的有（）

A.信道容量是信道的固有特性

B.不同的信道有不同的信道容量

C.信道容量与信源的概率分布有关

D.信道容量与信道的转移概率有关

答案：ABD

10.提高编码效率的方法有（）

A.采用变长编码

B.使信源符号概率分布尽量均匀

C.采用最佳编码方法

D.增加信源的冗余度

答案：ABC

三、判断题

1.信息是事物运动状态和方式的自我表述。（）

答案：正确

2.自信息是一个确定的值，不具有随机性。（）

答案：错误

3.平均互信息\(I(X;Y)\)表示从\(Y\)中获得的关于\(X\)的平均信息量，也等于从\(X\)中获得的关于\(Y\)的平均信息量。（）

答案：正确

4.离散无记忆信源