第五章无失真信源编码分析.pptVIP

3. Huffman码（续6） 离散信源如下: 解：编码过程略，Huffman编码结果如下： 第五章：无失真信源编码 四、变长码的编码方法 3. Huffman码（续7） 平均码长为 信源熵为 编码效率为 第五章：无失真信源编码 四、变长码的编码方法 3. Huffman码（续8） 注意：霍夫曼编码后的码字不是惟一的。 1）每次对缩减信源两个概率最小的符号分配“0”或“1”码元是任意的，所以可得到不同的码字。不同的码元分配，得到的具体码字不同，但码长li不变，平均码长也不变，所以没有本质区别； 2）缩减信源时，若合并后的概率与其他概率相等，这几个概率的次序可任意排列，但得到的码字不相同,对应的码长也不相同,但平均码长也不变。 第五章：无失真信源编码 四、变长码的编码方法 定理5.8 霍夫曼码是紧致码 0 1 0 1 0 1 0 1 1 01 000 001 1 00 01 3. Huffman码（续9） 第五章：无失真信源编码 四、变长码的编码方法 假定缩减后信源为 共有m个元素。 缩减后信源为 共有m+1个元素。 其中第k个元素码长 ,概率为 最短 则缩减前 4. r 元霍夫曼码 第五章：无失真信源编码 四、变长码的编码方法 0 1 2 0 1 2 0 1 2 4. r 元霍夫曼码（续1） 第五章：无失真信源编码 四、变长码的编码方法 4. r 元霍夫曼码（续2） 第五章：无失真信源编码 四、变长码的编码方法 5. Fano码 编码步骤如下： 将概率按从大到小的顺序排列，令 将依次排列的信源符号按概率分成两组，使每组概率和尽可能接近或相等。 给每一组分配一位码元“0”或“1”。 将每一分组再按同样方法划分，重复步骤2和3，直至概率不再可分为止。 第五章：无失真信源编码 四、变长码的编码方法 5. Fano码（续1） 例 第五章：无失真信源编码 四、变长码的编码方法 5. Fano码（续2） 解： 信源 符号 符号 概率 第一次分组 第一次分组 第一次分组 第一次分组 码字 码长 0.20 0 0 00 2 0.19 1 0 010 3 0.18 1 011 3 0.17 1 0 10 2 0.15 1 0 110 3 0.10 1 0 1110 4 0.01 1 1111 4 第五章：无失真信源编码 四、变长码的编码方法 5. Fano码（续3） 平均码长为 信源熵为 编码效率为 第五章：无失真信源编码 四、变长码的编码方法 5. Fano码（续4） 四、变长码的编码方法 香农码、Huffman码、Fano码总结 香农码、费诺码、霍夫曼码都考虑了信源的统计特性，使经常出现的信源符号对应较短的码字，使信源的平均码长缩短，从而实现了对信源的压缩。 香农码编码结果唯一，但在很多情况下编码效率不是很高。 费诺码和霍夫曼码的编码方法都不唯一。 费诺码比较适合于对分组概率相等或接近的信源编码。 霍夫曼码对信源的统计特性没有特殊要求，编码效率比较高，对编码设备的要求也比较简单，因此综合性能优于香农码和费诺码。 第五章：无失真信源编码 四、变长码的编码方法 首先是速率匹配问题 其次是差错扩散问题 第三是霍夫曼码需要查表来进行编译码。 信源统计特性未知时，怎么办？可采用所谓通用编码的方法。 Huffman码编码应用中的一些问题 第五章：无失真信源编码 0 1 0 0 0 0 1 0 0 1 0 0 0 0 1 0 译码 译码 四、变长码的编码方法 第五章：无失真信源编码 五、实用的无失真信源编码方法 游程编码 第五章：无失真信源编码 五、实用的无失真信源编码方法 游程编码（续1） BBBBBBBBBBXXXXXXXXXAAAAAAUUUUUUUUUUUUU 符号码 标识码 游程长度 编码： B#10X#9A#6U#13 对于黑、白二值文件: 1、黑白游程总是交替出现，可以规定第一游程为白游程。 2、不同游程长度出现的概率不同，对游程长度进行编码采用霍夫曼编码，概率大的编长码，概率小的编短码。 第五章：无失真信源编码 五、实用的无失真信源编码方法 游程编码（续2） 第五章：无失真信源编码 五、实用的无失真信源编码方法 73白游程=64+9 ：1101110100 00110101010110101011110110000110011000000000001 0白1黑15白4黑77白5黑 压缩比=1728/47=36.7:1 结尾码 组合基干码 第五章：无失真信源编码 五、实用的无失真信源编码方法 算术编码 第五章：无失真信源编码 五、实用的无失真信源编码方法 算术编码（续1） 第五章：无失真信源编码 五、实用的无失真信源编码方法 算术编码（续2