信息论与编码习题集.docVIP

第2章 信源在何种分布时，熵值最大？又在何种分布时，熵值最小？ 2.2 平均互信息量与信源概率分布有何关系？与又是什么关系？ 2.3 熵是对信源什么物理量的度量？ 2.4 设信道输入符号集是，则平均每个信道输入符号所能携带的最大信息量为什么？ 2.5 互信息量有时候取负值，是由于信道存在干扰或噪声的原因，这种说法对吗？ 2.6 教材习题。P70,2.19-2.22除外 第3章 3.1 设信源消息集为，信宿消息集，信源等概率分布，通过二进制信道，信道转移概率矩阵为 求：(1) 该系统的平均互信息量； (2) 接收到后，所提供的关于的平均互信息量。 3.2 教材 3.1,3.2,3.3,3.6,3.7(4),3.8,3.11,3.14,3.15,3.18,3.19 第4章 信息率失真函数 4.1 当信息率失真函数R(D)取什么值的时候，表示不允许有任何失真。 4.2 说明信源在不允许失真时，其信息率所能压缩到的极限值时什么？当允许信源存在一定的失真时，其信息率所能压缩到的极限值又是什么？ 4.3 给定二元信源，失真度测度矩阵，求信息率失真函数的定义域和值域。 4.4 其他练习题见教材 第5章 5.1 请问即时码一定是唯一可译码码？反过来说唯一可译码一定是即时码吗？ 5.2 离散无记忆信源，熵为，对信源的L长序列进行等长编码，码长是长为n的m进制符号串，问：