彭代渊王玲-信息论与编码理论-第四章习题解答.pdf

信息论与编码理论 1 第 4章 无失真信源编码 4-1 有一信源，它有六个可能的输出，其概率分布如下表所示，表中给出了对应的码 A、B、C、 D、E 和 F （1）求这些码中哪些是唯一可译码； （2）求哪些码是及时码； （3）对所有唯一可译码求出其平均码长 l 。 消息 概率 A B C D E F S1 1/2 000 0 0 0 0 0 S2 1/4 001 01 10 10 10 100 S3 1/16 010 011 110 110 1100 101 S4 1/16 011 0111 1110 1110 1101 110 S5 1/16 100 01111 11110 1011 1110 111 S6 1/16 101 011111 111110 1101 1111 011 4-2 设信源 6 1 2 6 11 2 6 ( ) 1 ( ) ( ) ( )( ) i i s s sX p s p s p s p sP X              。对此次能源进行 m 元唯一 可译编码，其对应的码长为（l1,l2,…,l6）=(1,1,2,3,2,3)，求 m 值的最好下限。（提示：用 kraft 不等式） 4-3 设信源为 1 2 3 4 5 6 7 8 1 1 1 1 1 1 1 1 ( ) 2 4 8 16 32 64 128 128 s s s s s s s s X p X              ，编成这样的码：（000，001， 010，011，100，101，110，111）。求 （1）信源的符号熵； （2）这种码的编码效率； （3）相应的仙农码和费诺码。 4-4 求概率分布为 1 1 1 2 2 ( , , , , ) 3 5 5 1 5 1 5 信源的二元霍夫曼编码。讨论此码对于概率分布为 1 1 1 1 1 ( , , , , ) 5 5 5 5 5 的信源也是最佳二元码。 4-5 有两个信源 X 和 Y 如下： 1 2 3 4 5 6 7 ( ) 0.20 0.19 0.18 0.17 0.15 0.10 0.01 X s s s s s s s p X             1 2 3 4 5 6 7 8 9 ( ) 0.49 0.14 0.14 0.07 0.07 0.04 0.02 0.02 0.01 Y s s s s s s s s s p Y             （1）用二元霍夫曼编码、仙农编码以及费诺编码对信源 X 和 Y 进行编码，并计算其平均码长和 信息论与编码理论 2 编码效率； （2）从 X，Y 两种不同信源来比较三种编码方法的优缺点。 4-6 设二元霍夫曼码为（00，01，10，11）和（0，10，110，111），求出可以编得这样 霍夫曼码的信源的所有概率分布。 4-7 设信源为 1 2 3 4 5 6 7 8 ( ) 0.4 0.2 0.1 0.1 0.05 0.05 0.05 0.05 X s s s s s s s s p X             ，求其三元霍夫曼编 码。 4-8 若某一信源有 N 个符号，并且每个符号等概率出现，对这个信源进行二元霍夫曼编码，问当 N=2i和 N=2i+1（i 是正整数）时，每个码值的长度是多少？平均码长是多少？ 4-9 现有一幅已离散量化后的图像，图像的灰度量化分成 8 级，如下表所示。表中数字为相应像素 上的灰度级。 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 3 3 3 3 3 3 3 3 3 3 4 4 4 4 4 4 4 4 4 4 5 5 5 5 5 5 5 6 6 6 6 6 6 7 7 7 7 7 8 8 8 8 8 （1）不考虑图像的任何统计特性，对图像进行二元等长编码，这幅图像共需要多少个二元符号 描述？ （2）若考虑图像的统计特性，求这幅图像的信源熵，并对每个灰度级进行二元霍夫曼编码，问 平均每个像素需用多少二元符号表示。 4-10 在 MPEG 中为了提高数据压缩比，采用了____方法。 A．运动补偿与运行估计 B.减少时域冗余与空间冗余 C．帧内图像数据与帧间图像数据压缩 D.向前预测与向后预测