媒体信号编码第四章.ppt

; 　4.1　Huffman编码4.1.1　Huffman码的构造　　1. 最佳码和最佳编码定理　　对于某一信源和某一码符号集来说，若有一个唯一可译码，其平均长度　小于所有其它唯一可译码的平均长度，则该码称为紧致码，或称最佳码。　　变字长最佳编码定理：在变字长编码中，对于概率大的信源符号编以短字长的码，对于概率小的符号编以长字长的码；如果码字长度严格按照所对应符号出现概率大小逆顺序排列，则平均码字长度　一定小于其他任何符号顺序排列方法。;　　证明：设最佳排列方式的码字平均长度为　，则其中, P(ai)为信源符号ai的出现概率，ni为给符号ai编成的码字的长度，而P(al)≥P(as), nl ≤ ns(l，s =1, 2, …, m)。　　如将al的码字与as的码字互换，其余码字不变，经过这样的互换以后，平均码字长度变为　，则　 应为　加上两码字互换后与互换前的平均长度之差，即 因为ns≥nl ，P(al)≥P(as)，所以　 ≥　。这就是说，　是最短的。证毕。;　　2. 二元Huffman码编码步骤　　(1) 将信源消息符号按其出现的概率大小降序排列；　　(2) 取两个概率最小的符号分别配以0和1两个码元，并将这两个概率相加作为一个新符号的概率，与未分配的符号重新排队；　　(3) 对重排后的两个概率最小符号重复步骤(2)的过程。　　(4) 不断继续上述过程，直到最后两个符号配以0和1为止。　　(5) 从最后一级开始，向前返回得到各个信源符号所对应的码元序列，即相应的码字。　　;图4-1　霍夫曼编码示例;　　Huffman编码码字本身和码长序列不是唯一的，但是平均码长是唯一的。 造成Huffman编码不唯一的原因主要有两个：　　① 每次对信源缩减时，赋予信源最后两个概率最小的符号，因为0和1可以是任意的，所以可以得到不同的编码，但不会影响码字的长度；　　② 对信源进行缩减时，两个概率最小的符号合并后的概率与其他多个信源符号的概率相同时，这几者在缩减信源中进行概率排序时位置次序可以任意，因此会得到不同的Huffman码。此时，会影响码字的长度，一般将合并的概率放在上面，这样可获得较小的码方差。;Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd.;　　由表4-1和表4-2可以看到，对同一个信源，由于信源符号缩减时排序的不同，造成了不同的码长。这两种码的平均码长分别为　　可见，虽然两种方法的Huffman码的码长不同，但平均码长还是一样的，因而编码效率也相同。在这种情况下，这两种码的质量可以根据码方差来衡量。码方差越小，说明越接近等长码，因而质量越好。;　　码方差定义为　　根据式（4-1），可以计算表4-1和表4-2的码方差分别为1.36和0.16。因而编码方法二得到的码要优于编码方法一得到的码。　　由此得出，在Huffman编码过程中，为得到码方差最小的码，当重新排列缩减信源的概率分布时，应使合并的概率和尽量处于最高的位置，这样可使合并的信源符号重复编码次数减少，使得码的方差变小。;　　3. r元Huffman码　　上面讨论的是二元Huffman码，它的编码方法同样可以推广到r元编码中来。不同的只是“合2为1”变为“合r为1”，即每次把r个概率最小的符号合并成一个新的信源符号，并分别用0、1、…、r－1等码元表示。　　为了充分利用短码，使Huffman码的平均码长为最短，必须使最后一步的缩减信源有r个信源符号。因此，对于r元编码，信源X的符号个数q必须满足 　q=(r－1)θ+r (4-2)其中, θ表示缩减的次数，r－1为每次缩减所减少的信源符号个数。;　　对于二元码，信源X的信源符号个数q必须满足：q=q+2, 因此，q为任意正整数时一定能找到一个q 使式q=(r－1)q+r满足。　　而对于r元码，q为任意正整数时不一定能找到一个整数q使式q=(r－1)q +r满足。若q不满足式q=(r－1)q+r时，则用虚设符号方法，增补一些概率为零的信源符号，即添加一些信源符号：sq+1, sq+2, …, sq+t，并使它们对应的概率为零，即pq+1=pq+2=…=pq+t=0。 此时，使得q+t满足式q+t=(r－1)q+r。另外，由于添设的信源符号的概率为0，因此对实际的Huffman编码过程没有影响。这样得到的r元Huffman码一定是紧致码。　 ;　　【例4-3】　信源X有6种符号，输出概率为0.32、0