信息论基础理论与应用考试题及答案.docxVIP

WORD格式 专业资料整理 信息论基础理论与应用考试题 一﹑填空题（每题 2 分，共 20 分） 1.信息论研究的目的就是要找到信息传输过程的共同规律，以提高信息传输的 （可靠性）﹑（有效性）﹑保密性和认证性，使信息传输系统达到最优化。 （考点：信息论的研究目的） 电视屏上约有 500×600=3× 105 个格点，按每点有 10 个不同的灰度等级考虑， 5 则可组成 103 10 个不同的画面。按等概计算，平均每个画面可提供的信息量约 为（ 106 bit / 画面 ）。 （考点：信息量的概念及计算） 按噪声对信号的作用功能来分类信道可分为（加性信道）和 （乘性信道）。 （考点：信道按噪声统计特性的分类） 英文电报有 32 个符号（26 个英文字母加上 6 个字符），即 q=32。若 r=2 ，N=1，即对信源 S 的逐个符号进行二元编码， 则每个英文电报符号至少要用 （5）位二元符号编码才行。 （考点：等长码编码位数的计算） 如果采用这样一种译码函数， 它对于每一个输出符号均译成具有最大后验概率的那个输入符号， 则信道的错误概率最小， 这种译码规则称为 （最大后验概率 准则）或（最小错误概率准则） 。 （考点：错误概率和译码准则的概念） 按码的结构中对信息序列处理方式不同，可将纠错码分为（分组码）和（卷积码）。 （考点：纠错码的分类） 码 C=｛（0，0，0，0），（0，1，0，1），（0，1，1，0），（0，0，1，1）｝是（（4，2））线性分组码。 （考点：线性分组码的基本概念） 定义自信息的数学期望为信源的平均自信息量，即 1 q P(ai )log P(ai ) ）。 （ H ( X ) E log P( ai ) i 1 （考点：平均信息量的定义） 对于一个（ n,k ）分组码，其最小距离为 d，那么，若能纠正 t 个随机错误， 同时能检测 e（e≥t ）个随机错误，则要求 （d≥t+e+1 ）。 （考点：线性分组码的纠检错能力概念） 和离散信道一样，对于固定的连续信道和波形信道都有一个最大的信息传输 速率，称之为（信道容量） 。 （考点：连续信道和波形信道的信道容量） 二﹑判断题（每题 2 分，共 10 分） 信源剩余度的大小能很好地反映离散信源输出的符号序列中符号之间依赖关 系的强弱，剩余度越大，表示信源的实际熵越小。 （ 对 ） （考点：信源剩余度的基本概念） 信道的噪声是有色噪声， 称此信道为有色噪声信道， 一般有色噪声信道都是无 记忆信道。 （ 错 ） （考点：有色噪声信道的概念） 若一组码中所有码字都不相同， 即所有信源符号映射到不同的码符号序列， 则 称此码为非奇异码。 （ 对 ） （考点：非奇异码的基本概念） 4. 在一个二元信道的 n 次无记忆扩展信道中，输入端有 2n 个符号序列可以作为 消息。 （ 对  ） 卷积码的纠错能力随着约束长度的增加而增大， 一般情况下卷积码的纠错能力 劣于分组码。 （ 错 （考点：卷积码的纠错能力）  ） 三﹑名词解释（每题 3 分，共 12 分） 信源编码 信源编码是对信源输出的消息进行适当的变换和处理，目的是为了提高信息传输的效率，所以又称为信源压缩编码。 （考点：信源编码的基本概念） 马尔可夫信源 信源某 t 时刻所处的状态由当前的输出符号和前一时刻 （ t-1 ）信源的状态唯 一决定，则称此信源为马尔可夫信源。 （考点：马尔可夫信源的基本概念） 熵功率 若平均功率为 P 的非高斯分布的信源具有熵为 h，称熵也为 h 的高斯信源的 平均功率为熵功率 P ，即熵功率是 P 1 e2h 。 2 e （考点：熵功率的定义） 4. 即时码 在唯一可译变长码中，有一类码，它在译码时无须参考后续的码符号就能立即做出判断，译成对应的信源符号，则这类码称为即时码。 （考点：即时码的定义） 四﹑简答题（每题 4 分，共 16 分） 1．信息熵的基本性质有哪些？ 答：信息熵的基本性质包括对称性﹑确定性﹑非负性﹑扩展性﹑可加性﹑可 强加性﹑递增性﹑极值性﹑上凸性。 （考点：信息熵的基本性质） 2．由香农公式可以得出的重要结论有哪些？ 答：（ 1）提高信号与噪声功率之比能增加信道的信道容量； 2）当噪声功率趋近于零时，信道容量趋于无穷大，这意味着无干扰连续信道的信道容量为无穷大； 3）信道容量一定时， 带宽﹑传输时间和信噪功率比三者之间可以互换； 4）增加信道带宽 （也就是信号的带宽），并不能无限制地使信道容量增大； 5）给出了无错误通信的传输速率的理论极限，成为香农极限。 考点：对香农公式的深入理解所得出的重要结论） 3．（n,k）线性分组码的重要性质有哪些？ 答：（ 1）（n,k）线性分组码由其生成矩阵 G 或校验矩阵 H 确定；