改进的Fano无失真信源编码.pdfVIP

改进的Fano无失真信源编码 朱诗兵 周辉 (固防科工委指挥技术学院，北京101407) 摘要：本文以Iluffman编码、Fano编码的核心思想为基础，提出了改进的Vano 无失真信源编码方法。具体的阐述了其编码过程，并对三种编码方法的编码效率进行 了比较。 关键词：Huffman编码，Fano编码，改进的Fano编码 1、前言 通信的实质是信息的砖输。而高速度、高质量她传输信息却又是信息传输的基本 问题。将信源信息通过信道传送给信宿，怎样才能既做到尽可能不失真而叉快速化腮? 失真信滴辍码可以不考虑抗干扰问题，所以它的数学描述比较简单。无失真信源编码 器如图￡．所示： Wjl 4，x-【xI。x2。…．x|】 无失真信源编码器 扶蹰1可以看出，信源绽码就是从信源符号到输出码符号的～种映射。著要实现 无失真情源缡码．那么这种映射必须是一一对应的、可逆的。Shanno编码、‰f佃an 编码、Fano编码都是性能很好的无失真信源编码，然而只有Huffman码是最佳码．因 此本文在Fano编码原理的基础上提出了对Fano编码的改进，从而使得改进后的Fano 编码方法所编出的玛是平均码长为最短的码(最佳码)。 2、两种离效的无失真倍源编码 香农第一定理指出了平均码长与信源熵之间的关系，同时也指出了可以通过编码 使乎均码长达到极限值，这就为构造悬佳码莫定了理论基础。至于如何去构造一个最 佳码，香农第一定理并没有直接给出。下面分析两种高效的无失真信源编码，从中可 以得到一些启示。 Huffman编码是一种最佳的逐个符号的编码方法。其编码步骤如下： ·436· (1)将q个信源符号按概率分布大小依递减次序排列，如pz≥p空ps2……≥p (2)用0。l码符号分别代表概率最小的两个信源符号，并将这两个概率最小的 信源符号合并成一个，从而得到只包含q—1个符号的新信源s-，称为缩减信源。 (3)把缩减信源s。的符号仍按概率大小依递减次序排列，再将其最后两个概率 最小的符号合并成一个符号，并分别用0和1码符号表示，这样又形成了q-2个符号 的缩减信源S：。 (4)依此继续下去，直至信源最后只剩两个符号为止。将这最后两个信源符号 分别用二进制符号“0”和…1表示。 (5)然后，从最后一级缩减信源开始，向前返回，就得出各信源符号所对应的 码符号序列，即相应的码字． Huffman码是最佳码，这已得到证明。而另一种高效的无失真信源编码——Fano 编码，不是最佳的编码方法，不过有时也能得到擐佳码的性能。Fano码的编码程序如 下： 首先，将信源符号以概率递减的次序排列起来，将排列好的信源符号划分成两大 组，使每组的概率和近于相同，并各赋于一个二元码符号…0和“1”。然后，将每 一个大组的信源符号再分成两组，使同一个组的两个小组的概率和近于相同，并分别 赋于一个二元码符号。依次下去，直至每个小组只剩下一个信源符号为止。这样，信 源符号所对应的码符号序列则为编得得码字。 Fano码也考虑了信源的统计特性，使经常出现的信源符号能对应码氏短的码字。 但是，Fano编码方法不一定能使短码得到充分利用。尤其当信源符号较多，并有一些 符号概率分布很接近时，分两大组的组合方法就会很多。可能某种分大组的结果，会 出现后面小组的“概率和”相差较远，因而使平均码长增加。 编码方法的核心思想为“合二为一”，而Fano编码方法的核心思想为“一分为二”， 差不多是一个互逆的过程。但是，这两种编码方法的效果却不一样，lhffman码是最 佳码，而Fano码不是最佳码，可有时却具有最佳码的性能。那么如何改进Fano编码 方法使其Fano码也是最佳码? 3、改进的Fano编码方法 、遵循Fano编码方法“一分为二”的思想。对信源符号的分组不是简单的采用“概 率和”近于相同的准则，而是采用最佳熵自动门限法。找到最佳门限，从而“一分为 二”，具体步骤如下： 将q个信源符号按概率分布p一，Pz．……。p。。的人小，以递减次序捧列起来。设 pl≥m≥p壶……≥pq．现由这个