中北大学信息论与编码第5章(10)..ppt

* 5.4 常用信源编码方法简介 设起始状态为空序列?， 则，A(?)＝1,C(?)＝0。 * 5.4 常用信源编码方法简介 * 5.4 常用信源编码方法简介 C(abda)即为编码后的码字010111 * 5.4 常用信源编码方法简介 A(?) A(a) a b c d A(a,b) a b c d a b c d A(a,b,d) C(?) 0(Pa) pa Pb pb Pc pc Pd pd 1 C(0) C(a,b,d) C(a,b) 算术编码过程 * 5.4 常用信源编码方法简介 译码 C(abda)=0.0101110.1?[0,0.1] 第一个符号为a 放大至[0,1](×pa-1)： C(abda)×21＝0.10111?[0.1,0.110] 第二个符号为b 去掉累积概率Pb： 0.10111-0.1=0.00111 * 5.4 常用信源编码方法简介 放大至[0,1](×p b-1)： 0.00111×22=0.111 ?[0.111,1] 第三个符号为d 去掉累积概率Pd： 0.111-0.111=0 放大至[0,1](×p d-1)：0×24＝0 ?[0,0.1] 第四个符号为a * 5.4 常用信源编码方法简介 算术编码从性能上看具有许多优点，特别是由于所需的参数很少，不象哈夫曼编码那样需要一个很大的码表，常设计成自适应算术编码来针对一些信源概率未知或非平稳情况。 * 5.4 常用信源编码方法简介 但是在实际实现时还有一些问题，如计算复杂性、计算的精度以及存储量等，随着这些问题的逐渐解决，算术编码正在进入实用阶段，但要扩大应用范围或进一步提高性能，降低造价，还需进一步改进。 * * 5.2 无失真信源编码 例 对以下信源进行费诺编码。 消息符号ai 各个消息概率 p(ai) 第一次分组 第二次分组 第三次分组 第四次分组 二元码字 码长Ki a1 0.20 0 0 00 2 a2 0.19 1 0 010 3 a3 0.18 1 011 3 a4 0.17 1 0 10 2 a5 0.15 1 0 110 3 a6 0.10 1 0 1110 4 a7 0.01 1 1111 4 * 5.2 无失真信源编码 码元/符号 bit/符号 * 5.2 无失真信源编码 哈夫曼编码方法 (1)将信源消息符号按其出现的概率大小依次排列， (2)取两个概率最小的字母分别配以0和1两个码元，并将这两个概率相加作为一个新字母的概率，与未分配的二进符号的字母重新排队。 * 5.2 无失真信源编码 (3)对重排后的两个概率最小符号重复步骤(2)的过程。 (4)不断继续上述过程，直到最后两个符号配以0和1为止。 (5)从最后一级开始，向前返回得到各个信源符号所对应的码元序列，即相应的码字。 * 5.2 无失真信源编码 例 对以下信源进行哈夫曼编码 信源符号ai 概率p(ai) 码字Wi 码长Ki a1 0.20 10 2 a2 0.19 11 2 a3 0.18 000 3 a4 0.17 001 3 a5 0.15 010 3 a6 0.10 0110 4 a7 0.01 0111 4 * 5.2 无失真信源编码 0.20 0.20 0.26 0.35 0.39 0.61 1.0 0.19 0.19 0.20 0.26 0.35 0.39 0.18 0.18 0.19 0.20 0.26 0.17 0.17 0.18 0.19 0.15 0.15 0.17 0.10 0.11 0.01 0 1 0 1 0 1 0 1 0 1 0 1 * 5.2 无失