信息论期末考试题及详细答案.docx

信息论期末考试题及详细答案

一、填空题（每空2分，共20分）

信息论中，衡量随机变量不确定性的核心指标是______，其单位主要有比特（bit）、奈特（nat）和哈特利（Hartley）。

对于离散无记忆信源，其平均互信息I(X;Y)与信源熵H(X)、条件熵H(X|Y)的关系为______。

无失真信源编码的核心要求是______，常用的无失真编码方法有哈夫曼编码、香农-范诺编码等。

信道容量是指信道能够可靠传输的______，其单位为比特/符号（bit/symbol）或比特/秒（bit/s）。

对于二进制无记忆对称信道（BSC），若误码率为p，则其信道容量C=______（用p表示）。