信息论基础试题及详细答案.docx

信息论基础试题及详细答案

一、填空题（每空2分，共20分）

信息论的核心是研究信息的______、______和______，其创始人是______。

离散信源的熵H(X)衡量的是信源输出符号的______，其单位是______（写出1种即可）。

互信息I(X;Y)表示由Y提供的关于X的信息量，其计算公式为I(X;Y)=______，且I(X;Y)______0（填“≥”或“≤”）。

无失真信源编码的核心要求是______，最常用的无失真编码方法有______（写出1种即可）。

高斯信道的信道容量公式为C=______，其核心制约因素是______和______。

二、选择题（每题3分，共1