第6章 图像编码1PPT.ppt

重排得 将 赋0， 赋1。最后则 赋1。 编码图如图5—17所示。 赋0， 赋1。最后 赋0， 重排得 编码符号是在字母集 A 中选取的。如果编码后形成一个新的等概率的无记忆信源，字母数为n，那么，它的最大熵应为 logan比特/符号，因此，这是极限值。 如果 ，则可认为编码效率已达到100％，若 ，则可认为编码效率较低。 由上述概念，编码效率如下式表示： 式中 代表编码效率，H(X)为信源的熵， 为平均码长，n为字母集合中的字母数。 (5—26) 如果以比特（bit）作单位，log a 的底为2，根据上述定义，则 显然，如果 ，就说明还有冗余度。因此，冗余度如下式表示 (5—27) 统计编码要研究的问题就在于设法减小 ，使 η 尽量趋近于1， 趋近于0。显然 值有一个理论最低限，当η =1时， 的最低限就是 H(X)/log2n 。 可以根据这一准则来衡量编码方法的优劣。下面举例加以说明。 例: 一个信源X和一个字母集合A如下 平均码长 bit/消息 可求得信源X的熵 所以 显然，编码后还有 bit的冗余度， 没有达到 的最低限。 如果取 此时 那么可以编成如下等长码 的冗余度。 同样有 上例中的两种编码方法，其特点是码字长度均相等，这种码叫等长码。显然此例中的两种等长码均没有达到最低限。怎样才能使信源编码达到最低限呢？ 再看下例的编码方法选 作为编码字符集。在这种编码中，不用等长码，而是采用下面的原则来编码，即 Pi 大的消息编短码，Pi 小的消息编长码。 例： 可计算出平均码长 其效率 冗余度 由此可见，这种编码法的码字平均长度达到了最低限。这说明用变长编码法可达到较高的效率。采用这种编码方法，信源中的消息与码字是一一对应的，因而译码时也是准确无误的。在编、译码过程中并不损失任何信息。它是一种信息保持编码法。 5.5.2 几种常用的统计编码法 变长编码是统计编码中最为主要的一种方法。变长编码的目标就是使平均码长达到低限，也就是使 最优，但是，这种最优必须在一定的限制下进行。编码的基本限制就是码字要有单义性和非续长性。 单义性代码是指任意一个有限长的码字序列只能被分割成一个一个的码字，而任何其他分割方法都会产生一些不属于码字集合中的码字。符合这个条件的代码就叫单义代码。 非续长代码是指任意一个码字都不是其他码字的续长。换句话说，就是码字集合中的任意一个码字都不是由其中一个码字在后面添上一些码元构成的。很容易看出非续长代码一定是单义的，但是，单义代码却不一定是非续长的。 例如，在表5—4中，列出四种代码， 表5—4 四种代码表 信 源 概 率 码 Ⅰ 码 Ⅱ 码 Ⅲ 码 Ⅳ 0 0 0 0 0 1 1 0 0 1 1 0 0 1 1 0 0 1 1 1 0 1 1 1 1 1 0 1 1 1 码Ⅰ：显然码Ⅰ缺乏单义可译性。 码Ⅱ：也缺乏单义可译性，又是可续长的。 码Ⅲ：既具备单义可译性又是非续长的码，它是 可用的。 码Ⅳ: 具有单义可译性，但是却缺乏非续长性。 从上面的例子可知，使 最短的码只是在单义可译性和非续长性的约束下才有意义。至于变长码的存在定理以及 的最低限是否存在等问题，在信息论中都有详细的定理加以证明及讨论。 最为常用的变长编码方法是 霍夫曼（Huffman）码 仙农－费诺（Shannon-Fano）码。 5.5.3 霍夫曼码 霍夫曼码变长编码法能得到一组最优的变长码。设原始信源有Ｍ个消息，即： (5—28) 可用下述步骤编出霍夫曼码： 第一步，把信源Ｘ中的消息按出现的概率从大到小的顺序排列， 即： 第二步，把最后两个出现概率最小的消息合并成一个消息，从而使信源的消息数减少一个，并同时再次将信源中的消息的概率从大