统计编码(2015).pptVIP

压缩编码技术 文件的冗余度类型 编码器的数学描述 变长码的基本分析 唯一可译码的存在 文件的冗余度类型 编码器的数学描述 变长码的基本分析 唯一可译码的存在 唯一可译码的构造 Shannon-Fano 编码 习题： 4.2 霍夫曼编码 霍夫曼码的构造 注意：哈夫曼的编法并不唯一 每次对缩减信源两个概率最小的符号分配“0”和“1”码元是任意的，所以可得到不同的码字。只要在各次缩减信源中保持码元分配的一致性，即能得到可分离码字。 不同的码元分配，得到的具体码字不同，但码长ki不变，平均码长也不变，所以没有本质区别； 缩减信源时，若合并后的新符号概率与其他符号概率相等，从编码方法上来说，这几个符号的次序可任意排列，编出的码都是正确的，但得到的码字不相同。不同的编法得到的码字长度ki也不尽相同。 信源编码基本定理 霍夫曼编码选择模型 霍夫曼码的局限性 4.3 游程编码 基本的游程编码 二值图像的游程编码 游程编码的局限性 问题的引入 ＊Huffman码等在实际应用过程中，只有在信源符号概率分布等于2的负整次幂时，它们才能产生最佳效果，即产生最佳变长码。 ＊ 假设某个字符的出现概率为 80%，那么该字符事实上只需要 -log2(0.8) = 0.322 位编码，但Huffman 编码一定会为其分配一位 0 或1 的编码。 ◎ 真的能只输出 0.322 个 0 或 0.322 位信息吗？ [例2] 假设信源符号为{00, 01, 10, 11}，这些符号的概率分别为{ 0.1, 0.4, 0.2, 0.3 }，根据这些概率可把间隔[0, 1)分成4个子间隔：[0, 0.1), [0.1, 0.5), [0.5, 0.7), [0.7, 1) 。信息可综合在表中。 1、静态模型如何实现？ 对信息 bccb 中只有两个字符，概率分布为 Pb=0.5，Pc=0.5。压缩中不必更新概率分布，每次区间的划分都按此分布。 2、为什么用自适应模型？ ①静态模型无法适应信息的多样性 必须消耗一定的空间保存静态模型统计出的概率分布 ②静态模型需要在压缩前对信息内字符的分布进行统计，这一统计过程将消耗大量的时间，使得本来就比较慢的算术编码压缩更加缓慢。 ③对较长的信息，静态模型统计出的符号概率是该符号在整个信息中的出现概率，而自适应模型可以统计出某个符号在某一局部的出现概率或某个符号相对于某一上下文的出现概率。 解压缩之前我们仍设三个字符的概率相等，并得出第一幅分布图。先在二进制流数据前面加上 0 和小数点把它变成小数 0.1010001111，也就是十进制 0.64。发现 0.64 在分布图中落入字符 b 的区间内，我们立即输出字符 b，并得出三个字符新的概率分布。类似压缩时采用的方法，我们按照新的概率分布划分字符 b 的区间。在新的划分中0.64 落入了字符 c 的区间，则输出字符 c。同理类推完成全部解压缩过程 。 算术编码实际上采用了化零为整的思想来表示小数个二进制位，我们无法精确表示单个小数位字符，但我们可以将许多字符集中起来表示，仅仅允许在最后一位有很小的误差。 我们每输入一个符号，都对概率的分布表做一下调整，并将要输出的小数限定在某个越来越小的区间范围内。对输出区间的限定是问题的关键所在。 ? ? ? ? ? ? ? ? ? ? ? 其他例子 设一串字符为“A B A B A B A B B B A B A B A?A?C?D A C D A..... ”，请用基于字典的LZ78方法进行编码，给出编码后的字典内容。 解：LZ78算法： ? ? ? ? ? ? ? ? ? ? 4.?4.?4 LZW 算法 ? ? ? ? (1) 字符流(Charstream)：要被编码的数据序列。 (2) 字符(Character)：字符流中的基本数据单元。 (3) 前缀(Prefix)： 在一个字符之前的字符序列。 (4) 缀-符串(String)：前缀＋字符。 (5) 码字(Code word)：码字流中的基本数据单元，代表词典 中的一串字符。 (6) 码字流(Codestream)： 码字和字符组成的序列，是编码 器的输出。 LZ78算法基本术语 §4.5 基于字典的编码 — LZW编码 (7) 词典(Dictionary)： 缀-符串表。按照词典中的索引号对 每条缀-符串(String)指定一个码