信息论与编码考试及答案.docVIP

信息论与编码考试及答案

一、单项选择题（每题2分，共20分）

1.信息论的创始人是（）

A.香农

B.维纳

C.哈特莱

D.仙农

2.信源符号集为\(X=\{a_1,a_2,a_3,a_4\}\)，概率分布为\(P=\{1/2,1/4,1/8,1/8\}\)，则信源的熵为（）

A.1.75bit/符号

B.1.5bit/符号

C.2bit/符号

D.1bit/符号

3.以下哪种编码属于变长编码（）

A.等长编码

B.哈夫曼编码

C.算术编码

D.B和C

4.离散无记忆信源的平均互信息\(I(X;Y)\)与信源熵\(H(X)\)和条件熵\(H(X|Y)\)的关系是（）

A.\(I(X;Y)=H(X)-H(X|Y)\)

B.\(I(X;Y)=H(X)+H(X|Y)\)

C.\(I(X;Y)=H(X|Y)-H(X)\)

D.\(I(X;Y)=H(X|Y)+H(X)\)

5.对于离散无记忆信道，其信道容量\(C\)是（）

A.输入概率分布的函数

B.输出概率分布的函数

C.输入和输出概率分布的函数

D.与输入输出概率分布无关

6.若一个二进制对称信道的错误概率为\(p\)，则其信道容量\(C\)为（）

A.\(1-H(p)\)

B.\(H(p)\)

C.\(1+H(p)\)

D.\(1-p\)

7.率失真函数\(R(D)\)是（）

A.失真度\(D\)的单调递减函数

B.失真度\(D\)的单调递增函数

C.与失真度\(D\)无关

D.先增后减函数

8.下列哪种编码方法不具有唯一可译性（）

A.哈夫曼编码

B.香农编码

C.非即时码

D.费诺编码

9.信源剩余度反映了（）

A.信源的信息含量

B.信源编码的效率

C.信源的相关性和冗余程度

D.信道的传输能力

10.最大熵定理表明，当信源的概率分布为（）时，信源熵达到最大。

A.均匀分布

B.高斯分布

C.指数分布

D.泊松分布

二、多项选择题（每题2分，共20分）

1.以下属于信息度量方法的有（）

A.哈特莱信息度量

B.香农信息度量

C.维纳信息度量

D.柯尔莫哥洛夫信息度量

2.常见的信源编码方法有（）

A.哈夫曼编码

B.算术编码

C.游程编码

D.LZ编码

3.离散信道的分类包括（）

A.无噪信道

B.有噪信道

C.对称信道

D.非对称信道

4.下列关于平均互信息\(I(X;Y)\)的性质正确的有（）

A.\(I(X;Y)\geq0\)

B.\(I(X;Y)=I(Y;X)\)

C.\(I(X;Y)\leqH(X)\)

D.\(I(X;Y)\leqH(Y)\)

5.率失真函数\(R(D)\)的性质有（）

A.非负性

B.单调递减性

C.凸函数性

D.连续性

6.信源编码的目的有（）

A.提高信息传输效率

B.减少信源的冗余度

C.提高通信的可靠性

D.便于信息的存储

7.信道编码的作用包括（）

A.提高信息传输效率

B.检测和纠正传输错误

C.增加信道容量

D.降低误码率

8.以下关于哈夫曼编码的说法正确的有（）

A.哈夫曼编码是一种变长编码

B.哈夫曼编码具有唯一可译性

C.哈夫曼编码是最优编码

D.哈夫曼编码的平均码长接近信源熵

9.离散无记忆信源的熵具有（）

A.非负性

B.对称性

C.扩展性

D.可加性

10.信息论的应用领域包括（）

A.通信领域

B.图像处理领域

C.数据压缩领域

D.密码学领域

三、判断题（每题2分，共20分）

1.信息和消息是同一概念。（）

2.信源熵越大，信源的不确定性越小。（）

3.等长编码一定是唯一可译码。（）

4.信道容量是信道能够无差错传输的最大信息传输率。（）

5.率失真函数\(R(D)\)在\(D=0\)时等于信源熵。（）

6.哈夫曼编码的平均码长一定小于信源熵。（）

7.离散无记忆信道的信道容量与输入概率分布有关。（）

8.信息率失真函数\(R(D)\)是关于失真度\(D\)的上凸函数。（）

9.信源剩余度越大，信源编码的效率越高。（）

10.最大熵定理适用于所有类型的信源。（）

四、简答题（每题5分，共20分）

1.简述信息的定义和特征。

2.什么是信源编码？其主要目的是什么？

3.说明信道容量的概念和意义。

4.简述率失真函数\(R(D)\)的物理意义。

五、讨论题（每题5分，共20分）

1.讨论信源编码和