2026年信息论期中试题及答案.docVIP

2026年信息论期中试题及答案

2026年信息论期中试题及答案

一、填空题（每题2分，共20分）

1.信息熵是衡量信息不确定性的度量，其数学表达式为_______。

2.熵率失真函数是描述在给定失真条件下，最小化平均失真所需的最小率。

3.无失真信源编码定理表明，只要码率大于信源熵，存在无失真编码。

4.有损信源编码的目标是在给定码率下，最小化平均失真。

5.联合熵是衡量两个随机变量联合不确定性的度量，其数学表达式为_______。

6.自信息量是衡量单个消息不确定性的度量，其数学表达式为_______。

7.信息增益是衡量一个特征对目标变量信息不确定性的减少程度。

8.熵压缩编码的基本原理是利用信源的统计特性，减少编码后的比特数。

9.熵编码的基本要求是保证解码的唯一性，即满足Kraft不等式。

10.有损压缩编码中，常用的失真度量包括均方误差和峰值信噪比。

二、判断题（每题2分，共20分）

1.信息熵的单位是比特（判断：正确）。

2.熵率失真函数总是单调递增的（判断：正确）。

3.无失真信源编码定理表明，只要码率小于信源熵，存在无失真编码（判断：错误）。

4.有损信源编码定理表明，只要码率大于信源熵，存在有损编码（判断：错误）。

5.联合熵总是大于等于单个变量的熵（判断：正确）。

6.自信息量的数学表达式为\(I(x)=