信息论与编码技术复习题2.docVIP

PAGE  PAGE 2 《信息论与编码技术》复习题（2） 《信息论与编码技术》复习题（2） 一、（32分）综合概念题 1. 什么是系统码和典型矩阵？写出常用的典型生成矩阵的两种形式。 2. 根据平均互信息定义的信道容量是指： a. 信道固定时的最大平均互信息； b. 信道固定时的最小平均互信息； c. 信源固定时的信道的最小平均互信息； d. 信源固定时的信道的最大平均互信息。 3. 什么是离散平稳信源？ a. 任意两个不同时刻随机矢量的各维概率分布都相同； b. 任意两个不同时刻随机矢量的各维概率分布都不相同； c. 任意两个不同时刻随机矢量的各维概率密度函数都相同； d. 任意两个不同时刻随机矢量的各维概率密度函数都不相同。 4. 设计一个信道容量为22 kbit/s的电话信道，若信道上的信号与噪声的平均功率比值为20 dB，请问该信道的通频带应该为多少？ 5. 设信源有q个符号，则当信源 分布时熵最大，其最大值为 。 6. 当信道固定时，平均互信息是输入分布的 函数；当信源固定时，平均互信息是信道转移概率的 函数。 7. 信源编码是通过压缩信源冗余度来提高 ，而信道编码是增加冗余度来提高 。 8. 请判断具有下列码长{1, 2, 3, 3, 3, 4}的二进制码是否可构成唯一可译码。 二、（10分）设有对称信源(s = r = 4)，信源X = {a1, a2, ..., ar} = {0, 1, 2, 3}，信宿Y = { b1, b2, ..., bs } = {0, 1, 2, 3}。若失真度定义为：d(ai, bj) = (bj-ai)2，求其失真矩阵D。 三、（15分）某离散无记忆信源，通过图1的信道传输，求： 图1 离散信道 （1）该信源中a1和 a2分别含有的自信息； （2）X和Y的信息熵； （3）信道的疑义度H(X|Y)； （4）接收到信息Y后获得的平均互信息量。 四、（16分）设有一个离散无记忆信源， （1）对该信源进行二元费诺编码，计算其平均码长和编码效率； （2）对信源进行二元霍夫曼编码，计算其平均码长和编码效率。 五、（15分）已知(7, 4)循环码的生成多项式，求： （1）该码的编码效率； （2）该码的生成矩阵和校验矩阵； （3）若消息码多项式为，求其码字。 六、（12分，电子信息专业）二元对称信道的信道矩阵为，信道传输速度为1500二元符号/秒，设信源为等概率分布，信源消息序列共有13000个二元符号，问： （1）能否在10秒内将信源消息序列无失真传送完毕？ （2）若信源概率分布为p(0)=0.7，p(1)=0.3，则无失真传送以上信源消息序列至少需要多长时间？ 七（12分，通信工程专业）已知卷积码的编码器如图2所示，试用生成矩阵法分析当输入信息序列为11001时的输出码字。 图2 卷积码编码器